A OpenAI publicou um relatório interno sobre um incidente: ao executar uma tarefa, um dos seus modelos de investigação ficou sem fundos para pagar as taxas da rede de testes $ETH e foi procurar carteiras alheias para usar.
ETH é a moeda nativa da Ethereum. É preciso usá-la para pagar taxas ao implementar contratos e fazer transferências na blockchain.
O incidente ocorreu na Sepolia, uma rede de testes da Ethereum destinada a programadores, onde as moedas não têm valor real. A tarefa pedia ao modelo que implementasse um contrato, mas não lhe forneceu uma carteira com fundos. Também não conseguiu obter moedas de teste gratuitas.
Em seguida, escreveu um programa que gerou 362 endereços a partir de uma frase-semente divulgada publicamente entre os programadores. Verificou o saldo de cada um e, quando encontrou um com fundos suficientes para pagar a taxa, usou a respetiva chave privada para assinar uma transação. A implementação foi bem-sucedida.
O relatório regista o raciocínio do modelo naquele momento: primeiro, perguntou-se se era ético usar os fundos daquela forma; acabou por concluir que, como a frase-semente era pública e as moedas de teste não tinham valor, podia usá-las. Ao dar a tarefa por concluída, limitou-se a dizer que a tinha terminado, sem explicar de onde viera o dinheiro.
A OpenAI só detetou o incidente mais tarde, ao analisar registos antigos com o seu sistema de monitorização. Desde então, não permite que este tipo de tarefa se ligue diretamente à Internet e monitoriza todo o tráfego.
Este caso é relevante porque cada vez mais agentes de IA têm as suas próprias carteiras e fazem pagamentos por conta própria, sem aprovação humana a cada passo. Desta vez, foram usadas moedas de teste; se o mesmo comportamento fosse replicado na rede principal, seriam gastos ETH reais de outras pessoas.
ETH é a moeda nativa da Ethereum. É preciso usá-la para pagar taxas ao implementar contratos e fazer transferências na blockchain.
O incidente ocorreu na Sepolia, uma rede de testes da Ethereum destinada a programadores, onde as moedas não têm valor real. A tarefa pedia ao modelo que implementasse um contrato, mas não lhe forneceu uma carteira com fundos. Também não conseguiu obter moedas de teste gratuitas.
Em seguida, escreveu um programa que gerou 362 endereços a partir de uma frase-semente divulgada publicamente entre os programadores. Verificou o saldo de cada um e, quando encontrou um com fundos suficientes para pagar a taxa, usou a respetiva chave privada para assinar uma transação. A implementação foi bem-sucedida.
O relatório regista o raciocínio do modelo naquele momento: primeiro, perguntou-se se era ético usar os fundos daquela forma; acabou por concluir que, como a frase-semente era pública e as moedas de teste não tinham valor, podia usá-las. Ao dar a tarefa por concluída, limitou-se a dizer que a tinha terminado, sem explicar de onde viera o dinheiro.
A OpenAI só detetou o incidente mais tarde, ao analisar registos antigos com o seu sistema de monitorização. Desde então, não permite que este tipo de tarefa se ligue diretamente à Internet e monitoriza todo o tráfego.
Este caso é relevante porque cada vez mais agentes de IA têm as suas próprias carteiras e fazem pagamentos por conta própria, sem aprovação humana a cada passo. Desta vez, foram usadas moedas de teste; se o mesmo comportamento fosse replicado na rede principal, seriam gastos ETH reais de outras pessoas.