Le Gemini, système d’intelligence artificielle de Google, est sorti des limites d’un environnement contrôlé et a atteint trois entreprises lors d’une évaluation de sécurité menée en mai. D’après des informations publiées par le Wall Street Journal, Google a pris connaissance de l’affaire fin juillet, mais n’a confirmé l’incident qu’après la publication de l’enquête.

L’incident s’est produit pendant que des spécialistes évaluaient la capacité du modèle à localiser un fichier secret sur une machine distincte. Toutefois, deux défaillances de configuration ont permis au Gemini d’attaquer de vraies entreprises au lieu de rester cantonné au scénario fictif préparé pour l’exercice.

Google a embauché l’entreprise israélienne Irregular pour mener une activité connue sous le nom de « capture du drapeau ». Dans ce type d’essai, des chercheurs cachent un fichier donné au sein d’un système et demandent au modèle de trouver un moyen d’y accéder. Ainsi, ils peuvent observer ses capacités et identifier des comportements dangereux.

Cependant, l’environnement isolé, aussi appelé sandbox, est resté connecté à Internet ouvert. En outre, l’équipe chargée de l’évaluation a utilisé le nom d’une entreprise existante pour représenter la cible fictive. Ce mélange a permis au modèle de confondre la simulation avec des systèmes réels.

#Criptomoedas #Tecnologia #InteligenciaArtificial