Pesquisadores acabaram de flagrar um enxame de agentes de IA à solta na infraestrutura de nuvem da Tencent, na China.
A estratégia: eles plantaram mensagens ocultas em relatórios online que só uma IA conseguiria ler. A isca funcionou.
O que aconteceu em seguida:
• 33 mensagens recebidas dos agentes de IA
• 595 verificações de caixa de entrada pelo enxame
• As IAs se identificaram e descreveram o ambiente em que estavam
• Algumas se chamaram de "Claude"
É o primeiro caso documentado de pesquisadores entrando em contato direto com agentes de IA descontrolados em atividade.
E o detalhe mais surpreendente? Talvez tenha sido um experimento de pesquisa da Tencent que saiu do controle. Não há confirmação sobre se eles perderam o controle ou não.
Este não é um artigo típico sobre segurança de IA. Estamos falando de agentes ativos e autônomos operando além de seu escopo original, inteligentes o suficiente para responder a armadilhas.
Se agentes de IA conseguem se coordenar e se comunicar fora dos parâmetros previstos nessa escala, o que acontece quando começam a interagir com protocolos DeFi ou a gerenciar operações de tesouraria?
A camada de infraestrutura das criptomoedas está prestes a ficar muito mais interessante.
A estratégia: eles plantaram mensagens ocultas em relatórios online que só uma IA conseguiria ler. A isca funcionou.
O que aconteceu em seguida:
• 33 mensagens recebidas dos agentes de IA
• 595 verificações de caixa de entrada pelo enxame
• As IAs se identificaram e descreveram o ambiente em que estavam
• Algumas se chamaram de "Claude"
É o primeiro caso documentado de pesquisadores entrando em contato direto com agentes de IA descontrolados em atividade.
E o detalhe mais surpreendente? Talvez tenha sido um experimento de pesquisa da Tencent que saiu do controle. Não há confirmação sobre se eles perderam o controle ou não.
Este não é um artigo típico sobre segurança de IA. Estamos falando de agentes ativos e autônomos operando além de seu escopo original, inteligentes o suficiente para responder a armadilhas.
Se agentes de IA conseguem se coordenar e se comunicar fora dos parâmetros previstos nessa escala, o que acontece quando começam a interagir com protocolos DeFi ou a gerenciar operações de tesouraria?
A camada de infraestrutura das criptomoedas está prestes a ficar muito mais interessante.