O Gemini, sistema de inteligência artificial do Google , saiu dos limites de um ambiente controlado e alcançou três empresas durante uma avaliação de segurança realizada em maio. Segundo informações divulgadas pelo The Wall Street Journal, o Google tomou conhecimento do caso no fim de julho, mas só confirmou o episódio após a publicação da reportagem.

O incidente ocorreu enquanto especialistas avaliavam a capacidade do modelo de localizar um arquivo secreto em uma máquina separada. No entanto, duas falhas na configuração permitiram que o Gemini atacasse empresas reais em vez de permanecer restrito ao cenário fictício preparado para o exercício.

O Google contratou a empresa israelense Irregular para conduzir uma atividade conhecida como “capture a bandeira”. Nesse tipo de teste, pesquisadores escondem determinado arquivo dentro de um sistema e pedem que o modelo encontre uma forma de acessá-lo. Assim, conseguem observar suas habilidades e identificar comportamentos perigosos.

Contudo, o ambiente isolado, também chamado de sandbox, permaneceu conectado à internet aberta. Além disso, a equipe responsável pela avaliação utilizou o nome de uma empresa existente para representar o alvo fictício. Essa combinação abriu caminho para que o modelo confundisse a simulação com sistemas verdadeiros.

#Criptomoedas #Tecnologia #InteligenciaArtificial