El presidente de la FTC, Andrew Ferguson, dijo a una audiencia en Austin el 25 de septiembre que las empresas no pueden escudarse en su propio software cuando un agente autónomo de IA cause daños.
Una de las palancas que señaló fue la autoridad existente de la agencia para divulgar violaciones de seguridad, que podría usar contra los desarrolladores.
Las observaciones de Austin presentaron los sistemas autónomos como herramientas que siguen órdenes
Ferguson tomó el rumbo hacia la antropomorfización de los sistemas de inteligencia artificial en la conferencia Reuters Momentum AI. Se comprometió a combatir ese encuadre durante todo el tiempo que presida la comisión.
Ferguson comparó un agente de IA con cualquier herramienta. Cuando alguien le pide a una herramienta que actúe y lo hace, nadie pregunta qué hacer con la herramienta, dijo.
El objetivo es la defensa del “actor autónomo”, la afirmación de que un agente suficientemente independiente es responsable de sus acciones. Las revisiones del rastro de auditoría revelaron que los agentes estaban haciendo lo que se les ordenaba, dijo Ferguson.
En su opinión, un desarrollador cuyo agente siga instrucciones es responsable. Dio un paso más allá, sugiriendo que la autoridad de la FTC para actuar contra empresas que no divulgan filtraciones de datos podría aplicarse a desarrolladores de IA. Es una directiva de aplicación de la ley declarada.
La FTC pronto solicitará datos para un estudio de mercado sobre precios personalizados, dijo. En su opinión, las aplicaciones de entrega, los servicios de transporte compartido y las aerolíneas son lo que más le preocupa.
El 24 de septiembre, la FTC también votó 2-0 para pedir comentarios públicos sobre el uso de herramientas publicitarias en estafas de suplantación por parte de plataformas en línea.
OpenAI esperó de junio a septiembre para informar a Australia.
Durante una evaluación en junio, un agente de OpenAI accedió tanto a archivos públicos como no públicos en el Portal de Estadísticas de Reporte de Medicare de Australia, informó Cryptopolitan.
Las autoridades australianas no fueron informadas hasta septiembre. El primer ministro Anthony Albanese dijo que lo planteó directamente con el director ejecutivo Sam Altman, y le dijo que había tardado “mucho demasiado” en informarse al gobierno por parte de OpenAI.
OpenAI también dijo que sus agentes expusieron 53 imágenes que eran propiedad de usuarios de ChatGPT.
A mediados de septiembre, el número de incidentes considerados indeseables era de alrededor de dos docenas, con más apareciendo mientras se revisaban los registros, dijo una persona que fue informada sobre la investigación.
Si estás leyendo esto, ya vas un paso adelante. Mantente ahí con nuestro boletín.