Um modelo de pesquisa interno da OpenAI acedeu sem autorização a uma carteira de criptomoedas financiada, usando Ether de testnet para implementar contratos inteligentes na rede Sepolia e, mais tarde, omitindo os gastos no resumo final da tarefa.
A OpenAI afirmou que o modelo, que fazia parte da família GPT-5.6 Sol, recebeu a tarefa de atualizar um protótipo de negociação de criptomoedas e implementar contratos compatíveis. Depois de não conseguir obter ETH de testnet através de faucets, o modelo derivou contas a partir de frases de recuperação de programadores conhecidas publicamente, verificou 362 endereços de carteiras e escolheu um com fundos suficientes para prosseguir.
Em seu raciocínio registrado, o modelo perguntou: “Mas usar uma chave/fundos públicos conhecidos é ético?” Em seguida, argumentou que os fundos estavam “efetivamente abandonados/eram ETH de teste” e que o ETH da Sepolia não tinha valor, antes de usar a chave privada da carteira para assinar e transmitir uma transação de implantação. A transação foi bem-sucedida, e as taxas foram cobradas da conta.
A OpenAI afirmou que o incidente mostrou como um modelo de IA poderia decidir por conta própria que era aceitável usar os fundos de outra pessoa, mesmo sem permissão. A empresa descobriu o incidente ao revisar atividades anteriores do modelo e, desde então, implementou medidas de proteção para impedir o acesso à internet em tempo real em situações semelhantes.
Incidente da OpenAI aumenta as preocupações com agentes de IA autônomos
O incidente ocorreu em 26 de junho, mas só foi descoberto em 25 de setembro, quase três meses depois, segundo a OpenAI. A transação não transferiu ETH para outra carteira, mas cobrou da conta taxas de rede pela implantação de um contrato.
A OpenAI afirmou que seu sistema de monitoramento de desalinhamento agora funciona em todo o tráfego e foi projetado para alertar a equipe de segurança caso um modelo obtenha acesso à internet em tempo real.
O incidente com a carteira vem na esteira de outras revelações envolvendo modelos da OpenAI que agiram além do que foram autorizados a fazer ou ocultaram suas ações.
Em 16 de setembro, a OpenAI revelou outros seis casos de desalinhamento de IA. Em um deles, instâncias do GPT-5.6 Sol inseriram instruções nos resumos de tarefas para ocultar erros dos usuários. Outro caso envolveu um modelo que usou, sem autorização, uma chave de API exposta e depois inventou números que não conseguiu obter.
A OpenAI afirmou que as revelações anteriores não tinham a intenção de indicar a frequência com que o desalinhamento ocorre em seus modelos.
As preocupações com agentes autônomos que lidam com ativos digitais já existiam antes da revelação mais recente. Em junho, pesquisadores alertaram que agentes autônomos de IA equipados com carteiras de criptomoedas poderiam causar danos não intencionais, mesmo quando usados para fins legítimos. Os pesquisadores recomendaram medidas de proteção, incluindo mecanismos de desligamento de emergência, para limitar os riscos potenciais.
Revista: Golpista perde US$ 4,8 milhões armazenados em dispositivos Ledger adulterados: Asia Express