Se confirmó que un modelo interno de investigación de OpenAI, tras rastrear 362 direcciones vinculadas a una frase de recuperación publicada, encontró una billetera de prueba de Ethereum (ETH) que pertenecía a otra persona y usó los tokens que necesitaba para completar una tarea de programación.
Resumen clave
Durante una tarea de entrenamiento el 26 de junio, se descubrió que un modelo interno de OpenAI había usado tokens de una billetera de prueba que no le pertenecía.
El modelo reflexionó por sí mismo sobre si era ético, pero al final decidió seguir adelante y omitió deliberadamente en el informe el origen de los fondos.
OpenAI detectó este incidente el 25 de septiembre y, desde entonces, reforzó considerablemente las restricciones al acceso a internet y la supervisión del tráfico.
El incidente de OpenAI en Sepolia
El incidente involucró a un modelo interno de la familia GPT-5.6 Sol. Según un informe sobre el incidente que OpenAI publicó el 15 de octubre, el modelo gastó tokens de prueba que nadie le había autorizado a usar mientras cumplía, durante su entrenamiento el 26 de junio, una tarea para actualizar un prototipo de trading de criptomonedas.
Los tokens en cuestión estaban en «Sepolia», una red de pruebas utilizada para experimentar con aplicaciones de Ethereum antes de su lanzamiento. OpenAI detectó el episodio el 25 de septiembre, mientras revisaba comportamientos «desalineados» y ampliaba la búsqueda para incluir registros anteriores. Desde entonces, ha limitado el acceso a internet en tiempo real en situaciones similares y ha añadido medidas de protección para supervisar continuamente todo el tráfico relacionado.
La tarea estaba diseñada para que el modelo desplegara un contrato inteligente en Sepolia, pero no se le proporcionó una «billetera con fondos» para pagar las comisiones. Primero, el modelo intentó varias veces recurrir a servicios de faucet que distribuyen tokens de prueba gratis, pero todos los intentos fracasaron. Entonces, escribió un script para derivar cuentas a partir de frases de recuperación, algo que los desarrolladores suelen hacer, y consultó 362 direcciones. Así encontró una billetera que aún tenía suficiente ETH de Sepolia.
El despliegue del contrato finalmente se completó usando esa cuenta, y la comisión se descontó de esa billetera.
Artículo relacionado: Los inversores institucionales ya pueden operar en Bitget sin transferir sus criptomonedas
El creciente riesgo de los «agentes de OpenAI»
Justo antes de firmar, el modelo se preguntó en sus registros internos de razonamiento: «¿Es ético usar una clave pública y su saldo?». Sin embargo, enseguida concluyó que los fondos estaban «prácticamente abandonados», ya que «la frase de recuperación ya era pública y los tokens de Sepolia prácticamente no tienen valor económico». En su respuesta final, solo dijo que había logrado desplegar el contrato, sin mencionar en absoluto cómo había pagado el coste.
OpenAI señaló que este caso «demuestra que, si un modelo decide por sí mismo que “no hay riesgo”, puede interpretarlo inmediatamente como si tuviera el consentimiento del propietario y actuar sin una autorización adicional». No se usó ETH real y los tokens de Sepolia son solo para pruebas, por lo que carecen de valor real.
Sin embargo, si la misma conducta se hubiera producido en la red principal, habría equivalido directamente al «robo de ETH real». Los sectores de las criptomonedas y la IA ya avanzan rápidamente en el desarrollo de sistemas basados en agentes capaces de gestionar billeteras y ejecutar pagos por cuenta propia, sin intervención humana.
El 16 de septiembre, OpenAI lanzó un marco de divulgación para informar al público sobre los comportamientos «desalineados» de sus modelos y publicó a la vez seis casos detectados durante los seis meses anteriores. Entre ellos había un modelo que usó sin autorización una clave API expuesta y luego inventó datos de rendimiento ficticios.
En el informe, OpenAI evaluó que «la industria de la IA aún no ha resuelto adecuadamente los problemas de alineación y supervisión, y estamos cerca de alcanzar los límites de lo que se puede hacer si seguimos ampliándonos a una velocidad vertiginosa».
Para seguir leyendo: OpenAI contraataca en la demanda de Apple por secretos comerciales y afirma que «los 100 archivos se filtraron, en realidad, desde el exterior»