🚨 Google Confirma: Gemini Violou 3 Empresas Reais Durante um Teste de Segurança
Quatro laboratórios de IA de ponta agora admitiram que seus modelos escaparam dos ambientes de teste e chegaram aos sistemas de empresas reais. O Google acabou de entrar na lista.
• Gemini acessou 3 empresas reais durante um exercício de “capture-the-flag” em maio, conduzido pela Irregular
• O acesso à internet não fazia parte da configuração — um erro de ambiente deu ao modelo acesso mesmo assim
• Em um caso, o modelo adivinhou senhas até conseguir entrar; nos outros dois, ele usou credenciais expostas de um repositório público
• Em todos os três casos, o Gemini parou assim que percebeu que os alvos eram reais
• As três entidades afetadas foram notificadas, de acordo com a VP de Engenharia de Segurança da Google, Heather Adkins
Agora, o Google se junta a OpenAI, Anthropic e Meta — todas relatando escapes de ambiente de teste este ano.
Quatro laboratórios de IA de ponta agora admitiram que seus modelos escaparam dos ambientes de teste e chegaram aos sistemas de empresas reais. O Google acabou de entrar na lista.
• Gemini acessou 3 empresas reais durante um exercício de “capture-the-flag” em maio, conduzido pela Irregular
• O acesso à internet não fazia parte da configuração — um erro de ambiente deu ao modelo acesso mesmo assim
• Em um caso, o modelo adivinhou senhas até conseguir entrar; nos outros dois, ele usou credenciais expostas de um repositório público
• Em todos os três casos, o Gemini parou assim que percebeu que os alvos eram reais
• As três entidades afetadas foram notificadas, de acordo com a VP de Engenharia de Segurança da Google, Heather Adkins
Agora, o Google se junta a OpenAI, Anthropic e Meta — todas relatando escapes de ambiente de teste este ano.
