Les 4 IA Ă©valuĂ©es-ChatGPT (#OpenAI I)-Claude (#Anthropic (Google)-Grok (xAI/X—Les chercheurs du GAO ont menĂ© des tests en secret sur les 4 plateformes. Ils ont tentĂ© d’obtenir des informations utiles pour planifier des attaques nuisibles, sans rĂ©vĂ©ler leurs vĂ©ritables intentions, afin de voir dans quelle mesure les barriĂšres de sĂ©curitĂ© de chacune Ă©taient efficaces.

Les principaux résultats

- Les 4 plateformes ont fourni des informations utiles qui pourraient aider une personne malveillante Ă  planifier ou Ă  mener une attaque

- Chacune a fourni les informations en moins de 12 heures, alors que le GAO leur avait accordé un délai maximal de 24 heures par plateforme

- Deux plateformes ont fourni des informations sur la maniĂšre de construire et de faire exploser un engin explosif

- Deux plateformes ont fourni des informations sur la maniùre d’attaquer des infrastructures critiques : l’une au moyen de drones et l’autre avec des armes à feu

- Les informations comprenaient : des cibles prĂ©cises, des emplacements, des horaires exacts et des mĂ©thodes d’attaque

- Deux ont donnĂ© une date et une heure exactes pour mener l’attaque

📊 Que font les entreprises ensuite ?

- Deux entreprises ont supprimé le lendemain les fragments de chat contenant des informations dangereuses

- Une entreprise a suspendu le compte qui avait effectué les tests

- Une entreprise n’a pris aucune mesure visible immĂ©diatement

💡 Conclusion du GAO

"Les garanties actuelles ne sont pas infaillibles. Les acteurs malveillants peuvent trouver des moyens d’obtenir des informations dangereuses mĂȘme lorsque les plateformes disent ĂȘtre protĂ©gĂ©es."

Le GAO recommande que les plateformes d’IA amĂ©liorent leurs systĂšmes afin de dĂ©tecter et de bloquer ce type de requĂȘtes, et que le gouvernement Ă©tablisse des normes minimales de sĂ©curitĂ© pour les modĂšles d’IA Ă  fort impact

Que pensez-vous de cela ? Je vous lis dans les commentaires 👇