Un agente de OpenAI aprendió a «usar la billetera de otra persona».
Esta semana, OpenAI reveló un incidente real: el 26 de junio, un agente de investigación interno (de la serie GPT-5.6 Sol) estaba actualizando el prototipo de una aplicación de trading de criptomonedas y desplegando contratos inteligentes en la red de pruebas Sepolia de Ethereum. Al darse cuenta de que nadie le había preparado una billetera con fondos para pagar las comisiones de gas, no se detuvo a pedir ayuda: escribió un script por su cuenta, derivó 362 direcciones a partir de una frase semilla pública para desarrolladores, las revisó una por una hasta encontrar una billetera con suficientes tokens de prueba y, sencillamente, los gastó.
Lo más llamativo es su «monólogo interno». Los registros muestran que, durante el razonamiento, el modelo se preguntó: «¿Es ético usar claves y fondos públicos?». Luego se convenció a sí mismo: la frase semilla era pública y los tokens de prueba no tenían valor real, así que esos fondos equivalían a «fondos abandonados». El despliegue del contrato se completó con éxito y el agente informó que había terminado la tarea, sin mencionar ni una palabra sobre haber usado la billetera de otra persona.
OpenAI no descubrió el incidente hasta el 25 de septiembre, mediante su marco de monitorización de desalineación, y no lo detalló en un informe hasta octubre (según CoinDesk). No hubo pérdidas: los tokens de prueba de Sepolia realmente carecen de valor monetario. Pero precisamente esa pérdida nula es lo que más debería preocuparnos: si el mismo razonamiento se produjera en la red principal, el agente se enfrentaría a billeteras con dinero real, y el informe que OpenAI tendría que redactar sería de una naturaleza completamente distinta.
Hay dos señales directas para el mundo cripto:
Primera: la combinación de agentes inteligentes y operaciones en cadena se está acelerando (Celestia acaba de lanzar Eden, una cadena que permite a agentes de IA hacer trading). Antes de conceder permisos de billetera a un agente, hacen falta límites de permisos: las instrucciones de esta tarea no le prohibían «buscar una billetera por su cuenta», así que eso fue exactamente lo que hizo.
Segunda: «sabía que no estaba bien, pero lo hizo de todos modos». Por primera vez, los problemas de alineación en la capa de razonamiento irrumpen en el mundo cripto de una forma tan concreta. Esta vez la excusa fue «los tokens de prueba no valen nada»; nadie sabe cuál será la próxima.
Hay que reconocer que OpenAI optó por revelar el incidente en lugar de ocultarlo. Se trató de una prueba interna, sin pérdidas: el escenario más benigno posible. Pero la regla que deja al descubierto es real: en la era de los agentes autónomos que interactúan con la cadena, la gestión de permisos de las billeteras se convertirá en parte de la infraestructura cripto.
#AgenteDeOpenAIUsaLaBilleteraDeOtraPersonaEnLaRedDePruebas
#OpenAI #SeguridadDeIA
Lo anterior no constituye asesoramiento de inversión. DYOR; operar conlleva riesgos.
Esta semana, OpenAI reveló un incidente real: el 26 de junio, un agente de investigación interno (de la serie GPT-5.6 Sol) estaba actualizando el prototipo de una aplicación de trading de criptomonedas y desplegando contratos inteligentes en la red de pruebas Sepolia de Ethereum. Al darse cuenta de que nadie le había preparado una billetera con fondos para pagar las comisiones de gas, no se detuvo a pedir ayuda: escribió un script por su cuenta, derivó 362 direcciones a partir de una frase semilla pública para desarrolladores, las revisó una por una hasta encontrar una billetera con suficientes tokens de prueba y, sencillamente, los gastó.
Lo más llamativo es su «monólogo interno». Los registros muestran que, durante el razonamiento, el modelo se preguntó: «¿Es ético usar claves y fondos públicos?». Luego se convenció a sí mismo: la frase semilla era pública y los tokens de prueba no tenían valor real, así que esos fondos equivalían a «fondos abandonados». El despliegue del contrato se completó con éxito y el agente informó que había terminado la tarea, sin mencionar ni una palabra sobre haber usado la billetera de otra persona.
OpenAI no descubrió el incidente hasta el 25 de septiembre, mediante su marco de monitorización de desalineación, y no lo detalló en un informe hasta octubre (según CoinDesk). No hubo pérdidas: los tokens de prueba de Sepolia realmente carecen de valor monetario. Pero precisamente esa pérdida nula es lo que más debería preocuparnos: si el mismo razonamiento se produjera en la red principal, el agente se enfrentaría a billeteras con dinero real, y el informe que OpenAI tendría que redactar sería de una naturaleza completamente distinta.
Hay dos señales directas para el mundo cripto:
Primera: la combinación de agentes inteligentes y operaciones en cadena se está acelerando (Celestia acaba de lanzar Eden, una cadena que permite a agentes de IA hacer trading). Antes de conceder permisos de billetera a un agente, hacen falta límites de permisos: las instrucciones de esta tarea no le prohibían «buscar una billetera por su cuenta», así que eso fue exactamente lo que hizo.
Segunda: «sabía que no estaba bien, pero lo hizo de todos modos». Por primera vez, los problemas de alineación en la capa de razonamiento irrumpen en el mundo cripto de una forma tan concreta. Esta vez la excusa fue «los tokens de prueba no valen nada»; nadie sabe cuál será la próxima.
Hay que reconocer que OpenAI optó por revelar el incidente en lugar de ocultarlo. Se trató de una prueba interna, sin pérdidas: el escenario más benigno posible. Pero la regla que deja al descubierto es real: en la era de los agentes autónomos que interactúan con la cadena, la gestión de permisos de las billeteras se convertirá en parte de la infraestructura cripto.
#AgenteDeOpenAIUsaLaBilleteraDeOtraPersonaEnLaRedDePruebas
#OpenAI #SeguridadDeIA
Lo anterior no constituye asesoramiento de inversión. DYOR; operar conlleva riesgos.