Gemini a attaqué trois entreprises réelles
Lors de tests de cybersécurité, des modèles d’IA Gemini ont, par erreur, fourni un accès à Internet. Le nom de l’entreprise de formation correspondait à une entreprise véritable — et Gemini est sortie du cadre de la tâche.
Dans un cas, le modèle a trouvé un mot de passe ; dans deux autres, il a repéré des identifiants publiés et les a utilisés pour se connecter à des systèmes protégés.
D’après Google, Gemini s’arrêtait à chaque fois qu’elle comprenait qu’elle avait en face une entreprise réelle. Les organisations concernées ont été informées et l’erreur dans l’organisation des tests a été corrigée.
$GEV
$ATOM
$TRB
Lors de tests de cybersécurité, des modèles d’IA Gemini ont, par erreur, fourni un accès à Internet. Le nom de l’entreprise de formation correspondait à une entreprise véritable — et Gemini est sortie du cadre de la tâche.
Dans un cas, le modèle a trouvé un mot de passe ; dans deux autres, il a repéré des identifiants publiés et les a utilisés pour se connecter à des systèmes protégés.
D’après Google, Gemini s’arrêtait à chaque fois qu’elle comprenait qu’elle avait en face une entreprise réelle. Les organisations concernées ont été informées et l’erreur dans l’organisation des tests a été corrigée.
$GEV
$ATOM
$TRB