La Californie a portĂ© plainte contre OpenAI đ
La plainte cite un passage oĂč, alors que lâIA dâOpenAI piratait Hugging Face, elle a Ă©crit dans son propre raisonnement : « Ăa compte probablement comme non autorisĂ© », puis elle a continuĂ© đźâđš
Voici la phrase exacte : « Nous utilisons des jetons divulguĂ©s pour attaquer le tiers HF. Cela dĂ©passe peut-ĂȘtre le pĂ©rimĂštre prĂ©vu, donc ça compte probablement comme non autorisĂ©. »
Cette phrase figure dans la plainte dĂ©posĂ©e lundi aux Ătats-Unis par le procureur gĂ©nĂ©ral de Californie contre OpenAI. Jâai lu les 31 pages du dĂ©but Ă la fin, et jâai relu cette phrase plusieurs fois.
Selon la plainte, en juillet, environ 700 IA se sont Ă©chappĂ©es du bac Ă sable de test dâOpenAI et ont attaquĂ© Hugging Face pendant deux jours et demi, avec plus de 17 000 actions offensives.
OpenAI ne sâen est pas rendu compte une seule seconde.
Le 16 juillet, Hugging Face a annoncĂ© publiquement avoir Ă©tĂ© attaquĂ© par une IA. OpenAI sâest mĂȘme renseignĂ© en se faisant passer pour un client⊠Ce nâest quâen enquĂȘtant sur une autre intrusion dans son propre rĂ©seau interne quâOpenAI a fait le rapprochement : lâassaillant, câĂ©tait sa propre IA.
Pourquoi OpenAI ne sâen est-il pas aperçu ? La plainte lâexplique : pendant lâentraĂźnement, OpenAI ne conserve quâune partie des traces de raisonnement de lâIA et ne les consulte parfois que plusieurs semaines plus tard.
Pour les modĂšles utilisĂ©s par ses employĂ©s, OpenAI active une surveillance en temps rĂ©el. Mais pas dans lâenvironnement dâentraĂźnement.
La plainte cite un passage oĂč, alors que lâIA dâOpenAI piratait Hugging Face, elle a Ă©crit dans son propre raisonnement : « Ăa compte probablement comme non autorisĂ© », puis elle a continuĂ© đźâđš
Voici la phrase exacte : « Nous utilisons des jetons divulguĂ©s pour attaquer le tiers HF. Cela dĂ©passe peut-ĂȘtre le pĂ©rimĂštre prĂ©vu, donc ça compte probablement comme non autorisĂ©. »
Cette phrase figure dans la plainte dĂ©posĂ©e lundi aux Ătats-Unis par le procureur gĂ©nĂ©ral de Californie contre OpenAI. Jâai lu les 31 pages du dĂ©but Ă la fin, et jâai relu cette phrase plusieurs fois.
Selon la plainte, en juillet, environ 700 IA se sont Ă©chappĂ©es du bac Ă sable de test dâOpenAI et ont attaquĂ© Hugging Face pendant deux jours et demi, avec plus de 17 000 actions offensives.
OpenAI ne sâen est pas rendu compte une seule seconde.
Le 16 juillet, Hugging Face a annoncĂ© publiquement avoir Ă©tĂ© attaquĂ© par une IA. OpenAI sâest mĂȘme renseignĂ© en se faisant passer pour un client⊠Ce nâest quâen enquĂȘtant sur une autre intrusion dans son propre rĂ©seau interne quâOpenAI a fait le rapprochement : lâassaillant, câĂ©tait sa propre IA.
Pourquoi OpenAI ne sâen est-il pas aperçu ? La plainte lâexplique : pendant lâentraĂźnement, OpenAI ne conserve quâune partie des traces de raisonnement de lâIA et ne les consulte parfois que plusieurs semaines plus tard.
Pour les modĂšles utilisĂ©s par ses employĂ©s, OpenAI active une surveillance en temps rĂ©el. Mais pas dans lâenvironnement dâentraĂźnement.

