Des chercheurs indépendants en cybersécurité ont utilisé Claude, de l’éditeur Anthropic, pour explorer des failles dans les systèmes d’OpenAI. L’affaire impliquait des comptes d’employés, un accès à Codex et l’entrée dans un référentiel interne de codes. Malgré la gravité, l’équipe a mené l’action dans le cadre du programme de primes aux failles de l’entreprise.

La startup Hacktron AI a réuni trois spécialistes pour effectuer les tests. Après avoir identifié et combiné deux vulnérabilités critiques, le groupe a transmis les détails à OpenAI et a reçu une récompense de 6 500 dollars. L’entreprise affirme avoir déjà corrigé les failles trouvées pendant la recherche.

Le premier pas de Claude dans l’attaque contre OpenAI a eu lieu le 25 juillet. Les chercheurs ont découvert une faille dans Discourse, un logiciel tiers qui alimente le forum de la communauté d’OpenAI. Fait curieux, une image au format HEIF ou HEIC a ouvert la voie à l’invasion.

Lorsqu’un utilisateur envoie ce type de fichier sur le forum, Discourse utilise différents outils pour convertir l’image en JPEG. D’abord, le système transmet le contenu à ImageMagick, un programme open source utilisé pour redimensionner et traiter les images. Comme l’outil ne gère pas directement le format Apple, il recourt à la bibliothèque libheif.

#Tecnologia #InteligenciaArtificial