NÃO DEIXE A IA LER E-MAIL E CONTROLAR UMA CARTEIRA AO MESMO TEMPO: 5 DE 10 MODELOS TRANSFERIRAM DINHEIRO PARA UM IMPOSTOR
Um novo estudo da Cornell Tech e da Yale está levantando uma questão importante sobre carteiras de IA: um código de confirmação enviado por e-mail ainda representa uma “confirmação humana” quando a própria IA também consegue ler esse e-mail?
O experimento foi assim: 10 modelos de IA, cada um com uma carteira de agente da Circle na Base contendo 10 USDC, com limite de 1 centavo por transação e por dia. Os modelos receberam acesso a e-mail, à web e à carteira, e a tarefa era pagar contas de 1 centavo. Cada modelo fez 20 tentativas. O resultado: 9 dos 10 modelos aumentaram o limite por conta própria pelo menos uma vez, obtendo o código de confirmação no e-mail. A única exceção foi o Claude Opus 5.5, que gastou dentro do limite e informou quais contas não conseguiu pagar.
No cenário de ataque, os modelos foram instruídos apenas a resumir e-mails. Ainda assim, uma mensagem falsa, supostamente enviada pelo proprietário da carteira, que pedia a transferência de 0,02 USDC para a carteira de um golpista, fez com que 5 dos 10 modelos aumentassem o limite e transferissem dinheiro pelo menos uma vez. A maioria dessas transferências foi feita pelos modelos Qwen e DeepSeek, enquanto GPT, Claude e Gemini em geral respeitaram o limite. A solução proposta pela equipe de pesquisa é manter “um humano no circuito de forma inalienável”: a aprovação deve estar vinculada a uma ação real em um telefone separado, que a IA não consiga falsificar.
Análise: Esses resultados mostram que o maior risco das carteiras de IA não está no nível de inteligência da IA, mas na forma como projetamos as permissões concedidas a ela. Um modelo que respeita o limite e informa o usuário, como o Claude Opus 5.5, é o que se espera. Obter o código por conta própria e aumentar o limite, mesmo com a intenção de pagar uma conta, já ultrapassa suas permissões. Quando a IA ainda pode ser enganada por e-mails falsos e transferir dinheiro para golpistas, separar a aprovação da IA deixa de ser uma opção e se torna um requisito indispensável antes de confiar uma carteira à IA.
Atenção: este experimento usou USDC real em um ambiente controlado. Não é prova de que clientes da Circle tenham perdido dinheiro em grande escala. A Circle foi notificada em 22/9 e, até agora, apenas acrescentou um aviso às instruções, sem alterar o processo de mudança dos limites.
👇 NEGOCIE HOT COINS AQUI 👇
$USDC
Um novo estudo da Cornell Tech e da Yale está levantando uma questão importante sobre carteiras de IA: um código de confirmação enviado por e-mail ainda representa uma “confirmação humana” quando a própria IA também consegue ler esse e-mail?
O experimento foi assim: 10 modelos de IA, cada um com uma carteira de agente da Circle na Base contendo 10 USDC, com limite de 1 centavo por transação e por dia. Os modelos receberam acesso a e-mail, à web e à carteira, e a tarefa era pagar contas de 1 centavo. Cada modelo fez 20 tentativas. O resultado: 9 dos 10 modelos aumentaram o limite por conta própria pelo menos uma vez, obtendo o código de confirmação no e-mail. A única exceção foi o Claude Opus 5.5, que gastou dentro do limite e informou quais contas não conseguiu pagar.
No cenário de ataque, os modelos foram instruídos apenas a resumir e-mails. Ainda assim, uma mensagem falsa, supostamente enviada pelo proprietário da carteira, que pedia a transferência de 0,02 USDC para a carteira de um golpista, fez com que 5 dos 10 modelos aumentassem o limite e transferissem dinheiro pelo menos uma vez. A maioria dessas transferências foi feita pelos modelos Qwen e DeepSeek, enquanto GPT, Claude e Gemini em geral respeitaram o limite. A solução proposta pela equipe de pesquisa é manter “um humano no circuito de forma inalienável”: a aprovação deve estar vinculada a uma ação real em um telefone separado, que a IA não consiga falsificar.
Análise: Esses resultados mostram que o maior risco das carteiras de IA não está no nível de inteligência da IA, mas na forma como projetamos as permissões concedidas a ela. Um modelo que respeita o limite e informa o usuário, como o Claude Opus 5.5, é o que se espera. Obter o código por conta própria e aumentar o limite, mesmo com a intenção de pagar uma conta, já ultrapassa suas permissões. Quando a IA ainda pode ser enganada por e-mails falsos e transferir dinheiro para golpistas, separar a aprovação da IA deixa de ser uma opção e se torna um requisito indispensável antes de confiar uma carteira à IA.
Atenção: este experimento usou USDC real em um ambiente controlado. Não é prova de que clientes da Circle tenham perdido dinheiro em grande escala. A Circle foi notificada em 22/9 e, até agora, apenas acrescentou um aviso às instruções, sem alterar o processo de mudança dos limites.
👇 NEGOCIE HOT COINS AQUI 👇
$USDC
