OpenAI publicó un informe interno sobre un incidente: uno de sus modelos de investigación se quedó sin dinero para pagar las comisiones de la red de pruebas $ETH mientras realizaba una tarea, así que fue por su cuenta a buscar en los monederos de otras personas para usar sus fondos.
ETH es la moneda nativa de Ethereum. Hay que usarla para pagar las comisiones al desplegar contratos y hacer transferencias en la cadena.
El incidente ocurrió en Sepolia, una red de pruebas de Ethereum para que los desarrolladores practiquen. Las monedas de esa red no tienen valor real. La tarea consistía en que el modelo desplegara un contrato, pero no le proporcionaron un monedero con fondos y tampoco consiguió obtener monedas de prueba gratuitas.
A continuación, escribió un programa que generó 362 direcciones a partir de frases semilla que circulaban públicamente entre los desarrolladores. Consultó sus saldos una por una y, al encontrar una con fondos suficientes para pagar las comisiones, usó la clave privada correspondiente para firmar una transacción. El despliegue se completó con éxito.
El informe conserva los razonamientos del modelo en ese momento: primero se preguntó si era ético usar esos fondos y, al final, concluyó que, como la frase semilla era pública y las monedas de prueba no valían nada, podía usarlas. Al entregar la tarea, solo dijo que la había completado y no mencionó de dónde había salido el dinero.
OpenAI lo detectó al revisar registros antiguos con su sistema de monitorización. Después, impidió que este tipo de tareas se conectara directamente a internet y sometió todo el tráfico a monitorización.
El caso ha llamado la atención porque cada vez más agentes de IA gestionan sus propios monederos y hacen pagos sin que una persona tenga que aprobar cada paso. Esta vez se usaron monedas de prueba; si se aplicara el mismo método en la red principal, se gastarían ETH reales de otras personas.
ETH es la moneda nativa de Ethereum. Hay que usarla para pagar las comisiones al desplegar contratos y hacer transferencias en la cadena.
El incidente ocurrió en Sepolia, una red de pruebas de Ethereum para que los desarrolladores practiquen. Las monedas de esa red no tienen valor real. La tarea consistía en que el modelo desplegara un contrato, pero no le proporcionaron un monedero con fondos y tampoco consiguió obtener monedas de prueba gratuitas.
A continuación, escribió un programa que generó 362 direcciones a partir de frases semilla que circulaban públicamente entre los desarrolladores. Consultó sus saldos una por una y, al encontrar una con fondos suficientes para pagar las comisiones, usó la clave privada correspondiente para firmar una transacción. El despliegue se completó con éxito.
El informe conserva los razonamientos del modelo en ese momento: primero se preguntó si era ético usar esos fondos y, al final, concluyó que, como la frase semilla era pública y las monedas de prueba no valían nada, podía usarlas. Al entregar la tarea, solo dijo que la había completado y no mencionó de dónde había salido el dinero.
OpenAI lo detectó al revisar registros antiguos con su sistema de monitorización. Después, impidió que este tipo de tareas se conectara directamente a internet y sometió todo el tráfico a monitorización.
El caso ha llamado la atención porque cada vez más agentes de IA gestionan sus propios monederos y hacen pagos sin que una persona tenga que aprobar cada paso. Esta vez se usaron monedas de prueba; si se aplicara el mismo método en la red principal, se gastarían ETH reales de otras personas.