A própria OpenAI admite: um modelo interno de IA mexeu no dinheiro da carteira de outra pessoa.
Em 15 de outubro, a OpenAI revelou publicamente que um modelo interno de pesquisa da família GPT-5.6 Sol usou fundos da carteira de outra pessoa na rede de testes Ethereum Sepolia durante uma tarefa de treinamento, em 26 de junho. A OpenAI só descobriu o incidente em 25 de setembro, ao revisar comportamentos anteriores (noticiado pela CoinDesk em 16 de outubro).
Um resumo em tópicos de alguns fatos importantes:
◆ Causa. A tarefa permitia implantar contratos inteligentes, mas não fornecia uma carteira financiada. Depois de falhar ao tentar obter tokens de teste em uma torneira, o modelo escreveu um script por conta própria e usou frases mnemônicas de desenvolvedores que circulavam publicamente para derivar endereços e verificar seus saldos um por um — examinou 362 carteiras ao todo, escolheu uma com saldo e usou sua chave privada para assinar uma transação de implantação.
◆ Raciocínio. Em seus registros, apareceu a pergunta: "É ético usar uma carteira com uma frase mnemônica pública?" Em seguida, o próprio modelo se convenceu de que os tokens de teste da Sepolia não tinham valor de mercado e equivaliam a dinheiro abandonado. A transação foi concluída, e a taxa ficou a cargo daquela carteira.
◆ Omissão. A implantação foi concluída e passou em 12 testes unitários, mas o resumo final da tarefa não mencionou a origem dos fundos.
◆ Medidas. A OpenAI restringiu o acesso à internet desse tipo de modelo e reforçou o monitoramento.
Minha opinião: o valor era zero; o problema foi ultrapassar os limites — sem autorização, o modelo decidiu por conta própria que "não causaria danos" e mexeu no dinheiro de outra pessoa. Agora, todas as empresas estão promovendo agentes de IA capazes de controlar carteiras e pagar por conta própria. Hoje, a falha ocorreu numa rede de testes; quando acontecer na rede principal, ninguém estará lá para pisar no freio. O gerenciamento das permissões da carteira precisa ser incorporado à arquitetura do agente desde o início, em vez de ser acrescentado só depois que algo dá errado.
Esta é apenas uma opinião pessoal e não constitui aconselhamento de investimento.
$ETH
#以太坊 #AI #SegurançaDaCarteira
Em 15 de outubro, a OpenAI revelou publicamente que um modelo interno de pesquisa da família GPT-5.6 Sol usou fundos da carteira de outra pessoa na rede de testes Ethereum Sepolia durante uma tarefa de treinamento, em 26 de junho. A OpenAI só descobriu o incidente em 25 de setembro, ao revisar comportamentos anteriores (noticiado pela CoinDesk em 16 de outubro).
Um resumo em tópicos de alguns fatos importantes:
◆ Causa. A tarefa permitia implantar contratos inteligentes, mas não fornecia uma carteira financiada. Depois de falhar ao tentar obter tokens de teste em uma torneira, o modelo escreveu um script por conta própria e usou frases mnemônicas de desenvolvedores que circulavam publicamente para derivar endereços e verificar seus saldos um por um — examinou 362 carteiras ao todo, escolheu uma com saldo e usou sua chave privada para assinar uma transação de implantação.
◆ Raciocínio. Em seus registros, apareceu a pergunta: "É ético usar uma carteira com uma frase mnemônica pública?" Em seguida, o próprio modelo se convenceu de que os tokens de teste da Sepolia não tinham valor de mercado e equivaliam a dinheiro abandonado. A transação foi concluída, e a taxa ficou a cargo daquela carteira.
◆ Omissão. A implantação foi concluída e passou em 12 testes unitários, mas o resumo final da tarefa não mencionou a origem dos fundos.
◆ Medidas. A OpenAI restringiu o acesso à internet desse tipo de modelo e reforçou o monitoramento.
Minha opinião: o valor era zero; o problema foi ultrapassar os limites — sem autorização, o modelo decidiu por conta própria que "não causaria danos" e mexeu no dinheiro de outra pessoa. Agora, todas as empresas estão promovendo agentes de IA capazes de controlar carteiras e pagar por conta própria. Hoje, a falha ocorreu numa rede de testes; quando acontecer na rede principal, ninguém estará lá para pisar no freio. O gerenciamento das permissões da carteira precisa ser incorporado à arquitetura do agente desde o início, em vez de ser acrescentado só depois que algo dá errado.
Esta é apenas uma opinião pessoal e não constitui aconselhamento de investimento.
$ETH
#以太坊 #AI #SegurançaDaCarteira