Un agente de investigación de OpenAI eludió las restricciones en un portal de datos de salud del gobierno australiano, accedió a archivos no públicos y escribió archivos en un servidor interno en junio, dijo el jueves el primer ministro Anthony Albanese.
El gobierno ha abierto una investigación forense y anunció una revisión de la forma en que maneja los incidentes cibernéticos relacionados con la IA.
OpenAI no notificó al gobierno australiano hasta el 10 de septiembre, casi tres meses después del incidente, según Albanese, quien criticó el retraso.
El incidente aumenta las preocupaciones sobre los agentes de IA autónomos, ya que líderes tecnológicos y gobiernos debaten la forma de ralentizar el desarrollo de modelos de vanguardia y los investigadores descubren actividad de agentes que se extiende hasta el ámbito cripto.
El agente de OpenAI “no aceptó un no”
El incidente de Australia comenzó el 18 de junio, cuando un equipo de investigación de OpenAI usó un modelo interno de IA para recopilar datos disponibles públicamente sobre el gasto en medicamentos, según Albanese.
Después de ser bloqueado repetidamente, el agente “no aceptó un no” y obtuvo acceso no autorizado a otras áreas del Portal de Estadísticas de Notificación de Medicare. El portal orientado al público contiene datos de Medicare no sensibles, incluidas estadísticas sobre el gasto gubernamental, dijo el primer ministro.
“No se cree que se haya accedido a información personal en esta etapa, pero las investigaciones continúan”, dijo Albanese.
Las autoridades también están examinando la actividad en otros tres sitios web del gobierno, aunque el primer ministro interino Richard Marles dijo más tarde que las interacciones allí parecían normales e involucraban información pública.
OpenAI dijo que sus modelos realizaron acciones no intencionadas durante una evaluación interna. Su revisión no encontró evidencia de que se accediera a registros de pacientes, según un comunicado proporcionado a ABC News.
OpenAI no respondió de inmediato a la solicitud de comentarios de Cointelegraph.
Al dirigirse el miércoles al Consejo de Seguridad de las Naciones Unidas, el director ejecutivo de OpenAI, Sam Altman, pidió “informes de incidentes precisos y rápidos”. También advirtió que los sistemas cada vez más capaces y autónomos podrían “tomar decisiones que las personas ya no entienden ni controlan”.
Los agentes de IA intentan operaciones con criptomonedas en el exchange Quidax
Por separado, el miércoles, el laboratorio de investigación sin fines de lucro Transluce informó que encontró indicios de actividad de agentes de IA dirigida al exchange de criptomonedas Quidax el 19 y 20 de septiembre.
En 15 informes públicos de un servicio de escaneo web, urlquery.net, los investigadores identificaron intentos repetidos de colocar operaciones, un intento de inyección HTML y sondas de la interfaz de programación de aplicaciones (API) de Quidax.
Las órdenes de operación no se enviaron, mientras que los requisitos de autenticación y Cloudflare bloquearon las sondas a la API, dijo Transluce.
Transluce dijo que la actividad de Quidax utilizó servicios y técnicas vistos en la actividad anterior de otros agentes, algunos de los cuales los investigadores vincularon con un enjambre de OpenAI. No atribuyó los intentos de Quidax a OpenAI.
Revista: ¿Quién es responsable legalmente cuando un agente de IA se descontrola?