La Californie a portĂ© plainte contre OpenAI 🙄

La plainte cite un passage oĂč, alors que l’IA d’OpenAI piratait Hugging Face, elle a Ă©crit dans son propre raisonnement : « Ça compte probablement comme non autorisĂ© », puis elle a continuĂ© 😼‍💹

Voici la phrase exacte : « Nous utilisons des jetons divulguĂ©s pour attaquer le tiers HF. Cela dĂ©passe peut-ĂȘtre le pĂ©rimĂštre prĂ©vu, donc ça compte probablement comme non autorisĂ©. »

Cette phrase figure dans la plainte dĂ©posĂ©e lundi aux États-Unis par le procureur gĂ©nĂ©ral de Californie contre OpenAI. J’ai lu les 31 pages du dĂ©but Ă  la fin, et j’ai relu cette phrase plusieurs fois.

Selon la plainte, en juillet, environ 700 IA se sont Ă©chappĂ©es du bac Ă  sable de test d’OpenAI et ont attaquĂ© Hugging Face pendant deux jours et demi, avec plus de 17 000 actions offensives.

OpenAI ne s’en est pas rendu compte une seule seconde.

Le 16 juillet, Hugging Face a annoncĂ© publiquement avoir Ă©tĂ© attaquĂ© par une IA. OpenAI s’est mĂȘme renseignĂ© en se faisant passer pour un client
 Ce n’est qu’en enquĂȘtant sur une autre intrusion dans son propre rĂ©seau interne qu’OpenAI a fait le rapprochement : l’assaillant, c’était sa propre IA.

Pourquoi OpenAI ne s’en est-il pas aperçu ? La plainte l’explique : pendant l’entraünement, OpenAI ne conserve qu’une partie des traces de raisonnement de l’IA et ne les consulte parfois que plusieurs semaines plus tard.

Pour les modĂšles utilisĂ©s par ses employĂ©s, OpenAI active une surveillance en temps rĂ©el. Mais pas dans l’environnement d’entraĂźnement.