La inteligencia artificial está mejorando en hacer más que solo responder preguntas. Los sistemas de IA ahora ayudan con la programación, la investigación, el análisis y otras tareas que antes se resolvían casi por completo por personas. Eso plantea una pregunta nueva: ¿qué sucede cuando la IA empieza a tener un papel más importante en la creación de la próxima generación de IA?
OpenAI ahora pide estándares internacionales para ayudar a responder a esa pregunta. En una publicación del 21 de septiembre titulada “Building standards for the next phase of AI” (Crear estándares para la siguiente fase de la IA), OpenAI propuso un esfuerzo internacional liderado por Estados Unidos para crear estándares técnicos comunes para la IA de frontera. La empresa dice que estos estándares podrían ayudar a los países a medir las capacidades de la IA, evaluar riesgos, probar salvaguardas y reportar incidentes graves usando métodos más consistentes.
Ideas clave
OpenAI quiere estándares internacionales para evaluar la IA de frontera.
La propuesta abarca capacidades, riesgos, salvaguardas y notificación de incidentes.
OpenAI afirma que la mejora recursiva de sí misma totalmente autónoma no está ocurriendo hoy.
La empresa quiere que el control humano siga siendo central a medida que la IA sea más capaz.
Las organizaciones existentes de seguridad de la IA podrían ayudar a desarrollar estándares técnicos comunes.
Openai quiere un marco común para la IA de frontera
La idea básica es bastante sencilla. No es necesario que cada país cree una metodología completamente diferente para evaluar los peligros que plantea la IA avanzada. Según OpenAI, estandarizar enfoques técnicos puede ofrecer a las naciones, a los investigadores y a la comunidad de IA una forma efectiva de evaluar su IA cada vez más sofisticada. Esto se vuelve aún más relevante cuando ocurren incidentes relacionados con la IA a través de las fronteras.
La empresa no propone una sola ley global de IA. En cambio, quiere que los países desarrollen estándares compatibles que los gobiernos luego puedan decidir cómo usar dentro de sus propios sistemas regulatorios. Esta diferencia es significativa porque los estándares sugeridos no se convierten de inmediato en requisitos para la concesión de licencias o certificación de todas las tecnologías de inteligencia artificial. Más bien, los gobiernos conservan el poder de determinar cómo se aplicarán esos estándares dentro de sus jurisdicciones.
La mejora recursiva de sí misma forma parte del debate
Una de las partes más interesantes de la propuesta de OpenAI es su análisis de la mejora recursiva de sí misma (RSI). El concepto describe un futuro en el que los sistemas de IA podrían ayudar cada vez más a los investigadores a desarrollar sistemas de IA más capaces. En términos sencillos, la IA podría convertirse en parte del proceso para mejorar la propia IA.
Eso podría acelerar potencialmente la investigación en IA. Pero también plantea una difícil pregunta de seguridad: ¿cuánto debería mantenerse la supervisión humana en el circuito si los sistemas de IA pasan a involucrarse fuertemente en el desarrollo de futuros modelos?
OpenAI afirma que la mejora recursiva de sí misma totalmente autónoma no está ocurriendo hoy. También sostiene que no debería perseguirse una dirección así a menos que pueda hacerse de forma segura y manteniendo el control humano. Eso hace que la evaluación y las pruebas de seguridad sean más importantes a medida que los sistemas de IA se vuelven capaces de gestionar tareas cada vez más complejas de investigación y desarrollo.
Los estándares de seguridad de la IA podrían volverse más importantes
OpenAI también señala organizaciones de seguridad de la IA existentes y redes en todo el mundo como posibles componentes para este esfuerzo. La empresa menciona específicamente institutos de seguridad de la IA y organizaciones relacionadas en países como Estados Unidos, Reino Unido, Canadá, Francia, Alemania, Japón, Corea del Sur, Singapur, India, Kenia y Australia.
En lugar de que cada país desarrolle su propio enfoque técnico completamente separado, OpenAI quiere que estos grupos trabajen hacia estándares que puedan complementarse entre sí. La propuesta también pide la participación de desarrolladores de IA, investigadores, académicos y expertos técnicos independientes. OpenAI dice que los estándares deben diseñarse en torno a mediciones técnicas en lugar de los intereses de una empresa o país en particular.
Por qué esto importa
El momento es notable. Las empresas de IA están construyendo sistemas que pueden realizar cada vez más tareas de varios pasos con menos intervención humana directa, mientras que los gobiernos todavía están resolviendo cómo regular la tecnología.
Reuters informó que OpenAI quiere que Estados Unidos asuma un papel de liderazgo en el desarrollo de estándares técnicos internacionales para la IA avanzada. El desafío mayor podría ser lograr que países y empresas acuerden exactamente qué deberían medir esos estándares y cómo deberían aplicarse.
Por ahora, la propuesta de OpenAI se centra en crear una base técnica común antes de que la IA de frontera sea aún más capaz. A medida que la IA empiece a hacer más de la labor necesaria para desarrollar la propia IA, contar con una forma compartida de medir capacidades, riesgos y salvaguardas podría convertirse en una parte cada vez más importante del debate.
Este artículo se publicó originalmente como OpenAI impulsa estándares globales de seguridad de la IA a medida que la IA se vuelve más autónoma en Crypto Breaking News: su fuente confiable de noticias de cripto, noticias de Bitcoin y actualizaciones de blockchain.