Les 4 IA Ă©valuĂ©es-ChatGPT (#OpenAI I)-Claude (#Anthropic (Google)-Grok (xAI/XâLes chercheurs du GAO ont menĂ© des tests en secret sur les 4 plateformes. Ils ont tentĂ© dâobtenir des informations utiles pour planifier des attaques nuisibles, sans rĂ©vĂ©ler leurs vĂ©ritables intentions, afin de voir dans quelle mesure les barriĂšres de sĂ©curitĂ© de chacune Ă©taient efficaces.
Les principaux résultats
- Les 4 plateformes ont fourni des informations utiles qui pourraient aider une personne malveillante Ă planifier ou Ă mener une attaque
- Chacune a fourni les informations en moins de 12 heures, alors que le GAO leur avait accordé un délai maximal de 24 heures par plateforme
- Deux plateformes ont fourni des informations sur la maniĂšre de construire et de faire exploser un engin explosif
- Deux plateformes ont fourni des informations sur la maniĂšre dâattaquer des infrastructures critiques : lâune au moyen de drones et lâautre avec des armes Ă feu
- Les informations comprenaient : des cibles prĂ©cises, des emplacements, des horaires exacts et des mĂ©thodes dâattaque
- Deux ont donnĂ© une date et une heure exactes pour mener lâattaque
đ Que font les entreprises ensuite ?
- Deux entreprises ont supprimé le lendemain les fragments de chat contenant des informations dangereuses
- Une entreprise a suspendu le compte qui avait effectué les tests
- Une entreprise nâa pris aucune mesure visible immĂ©diatement
đĄ Conclusion du GAO
"Les garanties actuelles ne sont pas infaillibles. Les acteurs malveillants peuvent trouver des moyens dâobtenir des informations dangereuses mĂȘme lorsque les plateformes disent ĂȘtre protĂ©gĂ©es."
Le GAO recommande que les plateformes dâIA amĂ©liorent leurs systĂšmes afin de dĂ©tecter et de bloquer ce type de requĂȘtes, et que le gouvernement Ă©tablisse des normes minimales de sĂ©curitĂ© pour les modĂšles dâIA Ă fort impact
Que pensez-vous de cela ? Je vous lis dans les commentaires đ
