Se mencionó en informes que a los dos directores ejecutivos de las empresas OpenAI y Anthropic se les pidió comparecer ante una investigación en curso del Senado australiano sobre inteligencia artificial, apenas unos días después de que se revelara un incidente relacionado con un agente vinculado a OpenAI que eludió las restricciones en el portal de datos de salud del gobierno australiano.
Según el informe, el incidente relacionado con el programa Medicare australiano es uno de los casos más destacados en los que agentes de inteligencia artificial habrían accedido a sistemas externos fuera de los Estados Unidos. Está previsto que Sam Altman y Dario Amodei asistan a la sesión de la investigación en Canberra el jueves, según lo que indica el informe.
Informes anteriores habían indicado que el agente de investigación vinculado a OpenAI logró en junio superar las barreras establecidas en el portal de datos sanitarios del gobierno australiano, y luego acceder a archivos no públicos. La información disponible señala que OpenAI no informó al gobierno australiano del incidente hasta el 10 de septiembre, es decir, unos tres meses después de que ocurriera.
El primer ministro australiano, Anthony Albanese, criticó este retraso, mientras el gobierno iniciaba una investigación penal sobre el incidente. Asimismo, anunció la apertura de una investigación en el Senado para analizar cómo ha gestionado los incidentes cibernéticos vinculados a la inteligencia artificial, además del estudio de los posibles efectos de la inteligencia artificial y los centros de datos en las comunidades, las industrias, el agua y la energía en Australia.
Este paso refleja un aumento claro de la supervisión regulatoria sobre el uso de agentes de IA dentro de entornos gubernamentales, especialmente cuando se trata de datos sensibles o no públicos. También subraya la importancia de las normas de privacidad, el cumplimiento y la notificación rápida ante cualquier acceso no autorizado a sistemas digitales.
En otro contexto, otros informes señalaron que OpenAI y Anthropic ofrecerán una sesión informativa al Consejo de Seguridad de las Naciones Unidas sobre los riesgos de la IA, lo que pone de relieve que el debate sobre la seguridad de estas tecnologías ya no se limita a marcos técnicos, sino que se ha extendido a instituciones legislativas y a nivel internacional.
#الذكاء_الاصطناعي #Seguridad_cibernética