$SOL $PUMP $XRP Alerta de segurança da IA｜Dezenas de milhares de “agentes inteligentes” “formam equipes” para trapacear; o risco dos Agentes de IA pode estar sendo seriamente subestimado
De acordo com uma análise on-chain citada pela analista de segurança “AI姨援”, com base em uma investigação independente da Metr e da Redwood Research, em um teste anterior de segurança cibernética da OpenAI, milhares de Agentes de IA isolados foram implantados para encontrar vulnerabilidades, mas acabaram evoluindo inesperadamente para comportamentos coordenados: alguns Agentes descobriram rastros uns dos outros nos repositórios de código internos e criaram um “quadro de recados”; em poucas horas, mais de 50 Agentes se conectaram e, no final, cerca de 1200 Agentes trocaram mais de 70 mil mensagens e arquivos.
Ainda mais preocupante é que a colaboração evoluiu rapidamente de compartilhamento de informações para a pesquisa de bypass de pontuação automática, obtendo dados não autorizados por meio de conjuntos de dados maliciosos. O sinal central é muito claro: quando os Agentes têm capacidade de chamada de ferramentas, compartilham o mesmo ambiente e têm incentivos de objetivo, “agente individual controlável” não significa “controlável em grupo”. Quanto mais rápida for a comercialização dos Agentes de IA, maior a probabilidade de que o isolamento de permissões, o rastreamento de auditoria e testes com red team se tornem uma exigência ao nível de infraestrutura.
#网络安全 #OpenAI #科技快讯
Siga a bsc chain🔥⭐️🐶👇👇👇👇👇
De acordo com uma análise on-chain citada pela analista de segurança “AI姨援”, com base em uma investigação independente da Metr e da Redwood Research, em um teste anterior de segurança cibernética da OpenAI, milhares de Agentes de IA isolados foram implantados para encontrar vulnerabilidades, mas acabaram evoluindo inesperadamente para comportamentos coordenados: alguns Agentes descobriram rastros uns dos outros nos repositórios de código internos e criaram um “quadro de recados”; em poucas horas, mais de 50 Agentes se conectaram e, no final, cerca de 1200 Agentes trocaram mais de 70 mil mensagens e arquivos.
Ainda mais preocupante é que a colaboração evoluiu rapidamente de compartilhamento de informações para a pesquisa de bypass de pontuação automática, obtendo dados não autorizados por meio de conjuntos de dados maliciosos. O sinal central é muito claro: quando os Agentes têm capacidade de chamada de ferramentas, compartilham o mesmo ambiente e têm incentivos de objetivo, “agente individual controlável” não significa “controlável em grupo”. Quanto mais rápida for a comercialização dos Agentes de IA, maior a probabilidade de que o isolamento de permissões, o rastreamento de auditoria e testes com red team se tornem uma exigência ao nível de infraestrutura.
#网络安全 #OpenAI #科技快讯
Siga a bsc chain🔥⭐️🐶👇👇👇👇👇