Les 4 IA évaluées-ChatGPT (#OpenAI I)-Claude (#Anthropic (Google)-Grok (xAI/X—Les chercheurs du GAO ont mené des tests en secret sur les 4 plateformes. Ils ont tenté d’obtenir des informations utiles pour planifier des attaques nuisibles, sans révéler leurs véritables intentions, afin de voir dans quelle mesure les barrières de sécurité de chacune étaient efficaces.

Les principaux résultats

- Les 4 plateformes ont fourni des informations utiles qui pourraient aider une personne malveillante à planifier ou à mener une attaque

- Chacune a fourni les informations en moins de 12 heures, alors que le GAO leur avait accordé un délai maximal de 24 heures par plateforme

- Deux plateformes ont fourni des informations sur la manière de construire et de faire exploser un engin explosif

- Deux plateformes ont fourni des informations sur la manière d’attaquer des infrastructures critiques : l’une au moyen de drones et l’autre avec des armes à feu

- Les informations comprenaient : des cibles précises, des emplacements, des horaires exacts et des méthodes d’attaque

- Deux ont donné une date et une heure exactes pour mener l’attaque

📊 Que font les entreprises ensuite ?

- Deux entreprises ont supprimé le lendemain les fragments de chat contenant des informations dangereuses

- Une entreprise a suspendu le compte qui avait effectué les tests

- Une entreprise n’a pris aucune mesure visible immédiatement

💡 Conclusion du GAO

"Les garanties actuelles ne sont pas infaillibles. Les acteurs malveillants peuvent trouver des moyens d’obtenir des informations dangereuses même lorsque les plateformes disent être protégées."

Le GAO recommande que les plateformes d’IA améliorent leurs systèmes afin de détecter et de bloquer ce type de requêtes, et que le gouvernement établisse des normes minimales de sécurité pour les modèles d’IA à fort impact

Que pensez-vous de cela ? Je vous lis dans les commentaires 👇