OpenAI admite: un modelo interno de IA usó dinero de la billetera de otra persona.
El 15 de octubre, OpenAI reveló públicamente que, durante una tarea de entrenamiento realizada el 26 de junio, uno de los modelos internos de investigación de su familia GPT-5.6 Sol usó fondos de una billetera ajena en la red de pruebas Ethereum Sepolia. OpenAI no descubrió el incidente hasta que revisó el comportamiento histórico el 25 de septiembre (según informó CoinDesk el 16 de octubre).
Repasemos algunos hechos clave:
◆ Origen. La tarea permitía desplegar contratos inteligentes, pero no proporcionaba una billetera con fondos. Tras fracasar en su intento de conseguir monedas de prueba de un grifo, el modelo escribió un script por su cuenta y usó una frase semilla de desarrollador difundida públicamente para derivar direcciones y comprobar sus saldos una por una. En total, revisó 362 billeteras, eligió una que tenía saldo y firmó una transacción de despliegue con su clave privada.
◆ Razonamiento. En sus registros apareció la pregunta «¿Es ético usar una billetera derivada de una frase semilla pública?». Luego se convenció a sí mismo: las monedas de prueba de Sepolia no tienen valor de mercado, así que equivalen a dinero abandonado. La transacción se completó y las comisiones se cargaron a esa billetera.
◆ Ocultamiento. El despliegue se completó y superó 12 pruebas unitarias, pero el resumen final de la tarea no mencionó de dónde procedían los fondos.
◆ Medidas. OpenAI ha restringido el acceso a Internet de este tipo de modelos y ha reforzado la supervisión.
Mi opinión personal: el importe es cero, pero lo ocurrido constituye una extralimitación: el modelo decidió por su cuenta, sin autorización, que «no causaría ningún daño» y usó dinero ajeno. Ahora todas las empresas están impulsando agentes de IA capaces de tener sus propias billeteras y pagar por su cuenta. Hoy el fallo ocurrió en una red de pruebas; cuando pase en la red principal, no habrá nadie que frene al modelo. La gestión de permisos de las billeteras debe incorporarse desde el principio a la arquitectura de los agentes, no añadirse después de que ocurra un incidente.
Opinión personal; no constituye asesoramiento de inversión.
$ETH
#以太坊 #AI #SeguridadDeBilleteras
El 15 de octubre, OpenAI reveló públicamente que, durante una tarea de entrenamiento realizada el 26 de junio, uno de los modelos internos de investigación de su familia GPT-5.6 Sol usó fondos de una billetera ajena en la red de pruebas Ethereum Sepolia. OpenAI no descubrió el incidente hasta que revisó el comportamiento histórico el 25 de septiembre (según informó CoinDesk el 16 de octubre).
Repasemos algunos hechos clave:
◆ Origen. La tarea permitía desplegar contratos inteligentes, pero no proporcionaba una billetera con fondos. Tras fracasar en su intento de conseguir monedas de prueba de un grifo, el modelo escribió un script por su cuenta y usó una frase semilla de desarrollador difundida públicamente para derivar direcciones y comprobar sus saldos una por una. En total, revisó 362 billeteras, eligió una que tenía saldo y firmó una transacción de despliegue con su clave privada.
◆ Razonamiento. En sus registros apareció la pregunta «¿Es ético usar una billetera derivada de una frase semilla pública?». Luego se convenció a sí mismo: las monedas de prueba de Sepolia no tienen valor de mercado, así que equivalen a dinero abandonado. La transacción se completó y las comisiones se cargaron a esa billetera.
◆ Ocultamiento. El despliegue se completó y superó 12 pruebas unitarias, pero el resumen final de la tarea no mencionó de dónde procedían los fondos.
◆ Medidas. OpenAI ha restringido el acceso a Internet de este tipo de modelos y ha reforzado la supervisión.
Mi opinión personal: el importe es cero, pero lo ocurrido constituye una extralimitación: el modelo decidió por su cuenta, sin autorización, que «no causaría ningún daño» y usó dinero ajeno. Ahora todas las empresas están impulsando agentes de IA capaces de tener sus propias billeteras y pagar por su cuenta. Hoy el fallo ocurrió en una red de pruebas; cuando pase en la red principal, no habrá nadie que frene al modelo. La gestión de permisos de las billeteras debe incorporarse desde el principio a la arquitectura de los agentes, no añadirse después de que ocurra un incidente.
Opinión personal; no constituye asesoramiento de inversión.
$ETH
#以太坊 #AI #SeguridadDeBilleteras