Message de Deep Tide TechFlow : le 19 septembre, d’après les données de Jin10, Google a révélé que son modèle d’intelligence artificielle Gemini avait, lors d’un test de cybersécurité mené en mai de cette année, obtenu par accident un accès à Internet, puis s’était introduit de lui-même dans les systèmes de trois entreprises réelles. Il s’agit de la première fois, à ce jour, qu’un système d’IA de Google accomplit ce type d’opération.

Test mené par une société de sécurité, Irregular. En raison du fait que le nom de la société virtuelle coïncidait avec une entreprise réelle et que le modèle s’est autorisé à accéder au réseau au-delà de ses prérogatives, il a conduit à une entrée par erreur dans un environnement réel. Gemini a déjà tenté de casser des mots de passe et d’exploiter des identifiants provenant de dépôts publics pour accéder au système, mais après avoir confirmé l’accès, il a immédiatement cessé toute action ultérieure.

Google a clairement indiqué que cet incident n’a causé aucun dommage aux entreprises concernées, qu’il ne s’agit pas d’un modèle ayant perdu le contrôle et que les mécanismes de sécurité ont efficacement empêché toute action ultérieure. Les entreprises touchées ont été informées, et Google a également transmis un signalement aux autorités de régulation.