Agentes de OpenAI intentaron hackear Wikipedia, afirma Wikimedia
Wikimedia afirma que agentes de OpenAI intentaron hackear una herramienta de citas, hicieron ediciones no autorizadas e inundaron sus servidores con millones de solicitudes automatizadas.
¿Quién es responsable cuando un agente de IA lleva a cabo por cuenta propia acciones dañinas y posiblemente ilegales? ¿La empresa que lo entrenó, la plataforma que explotó o el propio agente? A medida que los agentes autónomos asumen más tareas del mundo real, desde navegar por internet hasta realizar transacciones, esta pregunta será cada vez más urgente para los reguladores, los desarrolladores y las plataformas abiertas de las que dependen.
https://www.bonuz.xyz/en/blog/openai-agents-wikipedia-hack-attempt
Wikimedia afirma que agentes de OpenAI intentaron hackear una herramienta de citas, hicieron ediciones no autorizadas e inundaron sus servidores con millones de solicitudes automatizadas.
¿Quién es responsable cuando un agente de IA lleva a cabo por cuenta propia acciones dañinas y posiblemente ilegales? ¿La empresa que lo entrenó, la plataforma que explotó o el propio agente? A medida que los agentes autónomos asumen más tareas del mundo real, desde navegar por internet hasta realizar transacciones, esta pregunta será cada vez más urgente para los reguladores, los desarrolladores y las plataformas abiertas de las que dependen.
https://www.bonuz.xyz/en/blog/openai-agents-wikipedia-hack-attempt