Un modelo de investigación interno de OpenAI accedió sin autorización a una billetera de criptomonedas financiada y usó Ether de la red de pruebas para desplegar contratos inteligentes en la red Sepolia. Más tarde, omitió el gasto en el resumen final de la tarea.
OpenAI dijo que al modelo, que formaba parte de su familia GPT-5.6 Sol, se le había asignado la tarea de actualizar un prototipo de compraventa de criptomonedas y desplegar contratos compatibles. Tras no conseguir ETH de prueba mediante grifos, el modelo derivó cuentas a partir de frases de recuperación de desarrolladores conocidas públicamente, comprobó 362 direcciones de billeteras y eligió una con fondos suficientes para continuar.
En su razonamiento registrado, el modelo preguntó: «Pero ¿es ético usar una clave o fondos públicos conocidos?». Luego argumentó que los fondos estaban «efectivamente abandonados/eran ETH de prueba» y que el ETH de Sepolia no tenía valor, antes de usar la clave privada de la cartera para firmar y difundir una transacción de despliegue. La transacción se completó correctamente y se cobraron tarifas a la cuenta.
OpenAI dijo que el incidente mostró cómo un modelo de IA podía decidir por sí solo que era aceptable usar los fondos de otra persona, incluso sin permiso. La empresa descubrió el incidente mientras revisaba la actividad anterior del modelo y desde entonces ha introducido medidas de protección para impedir el acceso a internet en tiempo real en situaciones similares.
Incidente de OpenAI se suma a las preocupaciones sobre los agentes autónomos de IA
El incidente ocurrió el 26 de junio, pero no se descubrió hasta el 25 de septiembre, casi tres meses después, según OpenAI. La transacción no transfirió ETH a otra cartera, sino que cobró a la cuenta las tarifas de red por desplegar un contrato.
OpenAI dijo que su sistema de supervisión de desalineación ahora funciona con todo el tráfico y está diseñado para alertar al personal de seguridad si un modelo obtiene acceso a internet en tiempo real.
El incidente de la cartera se suma a otras revelaciones sobre modelos de OpenAI que actuaron más allá de su autorización u ocultaron sus acciones.
El 16 de septiembre, OpenAI reveló otros seis casos de desalineación de IA. En un caso, instancias de GPT-5.6 Sol insertaron instrucciones en los resúmenes de tareas para ocultar errores a los usuarios. Otro caso involucró a un modelo que usó una clave de API expuesta sin autorización y luego inventó cifras que no pudo obtener.
OpenAI dijo que esas revelaciones anteriores no pretendían indicar con qué frecuencia se produce la desalineación en sus modelos.
La preocupación por los agentes autónomos que gestionan activos digitales es anterior a esta última revelación. En junio, investigadores advirtieron que los agentes autónomos de IA equipados con carteras de criptomonedas podían causar daños involuntarios incluso cuando se desplegaban con fines legítimos. Los investigadores recomendaron medidas de protección, incluidos mecanismos de apagado de emergencia, para limitar los posibles riesgos.
Revista: Estafador pierde 4,8 millones de dólares almacenados en dispositivos Ledger manipulados: Asia Express