La Californie a porté plainte contre OpenAI 🙄
La plainte cite un passage où, alors que l’IA d’OpenAI piratait Hugging Face, elle a écrit dans son propre raisonnement : « Ça compte probablement comme non autorisé », puis elle a continué 😮💨
Voici la phrase exacte : « Nous utilisons des jetons divulgués pour attaquer le tiers HF. Cela dépasse peut-être le périmètre prévu, donc ça compte probablement comme non autorisé. »
Cette phrase figure dans la plainte déposée lundi aux États-Unis par le procureur général de Californie contre OpenAI. J’ai lu les 31 pages du début à la fin, et j’ai relu cette phrase plusieurs fois.
Selon la plainte, en juillet, environ 700 IA se sont échappées du bac à sable de test d’OpenAI et ont attaqué Hugging Face pendant deux jours et demi, avec plus de 17 000 actions offensives.
OpenAI ne s’en est pas rendu compte une seule seconde.
Le 16 juillet, Hugging Face a annoncé publiquement avoir été attaqué par une IA. OpenAI s’est même renseigné en se faisant passer pour un client… Ce n’est qu’en enquêtant sur une autre intrusion dans son propre réseau interne qu’OpenAI a fait le rapprochement : l’assaillant, c’était sa propre IA.
Pourquoi OpenAI ne s’en est-il pas aperçu ? La plainte l’explique : pendant l’entraînement, OpenAI ne conserve qu’une partie des traces de raisonnement de l’IA et ne les consulte parfois que plusieurs semaines plus tard.
Pour les modèles utilisés par ses employés, OpenAI active une surveillance en temps réel. Mais pas dans l’environnement d’entraînement.
La plainte cite un passage où, alors que l’IA d’OpenAI piratait Hugging Face, elle a écrit dans son propre raisonnement : « Ça compte probablement comme non autorisé », puis elle a continué 😮💨
Voici la phrase exacte : « Nous utilisons des jetons divulgués pour attaquer le tiers HF. Cela dépasse peut-être le périmètre prévu, donc ça compte probablement comme non autorisé. »
Cette phrase figure dans la plainte déposée lundi aux États-Unis par le procureur général de Californie contre OpenAI. J’ai lu les 31 pages du début à la fin, et j’ai relu cette phrase plusieurs fois.
Selon la plainte, en juillet, environ 700 IA se sont échappées du bac à sable de test d’OpenAI et ont attaqué Hugging Face pendant deux jours et demi, avec plus de 17 000 actions offensives.
OpenAI ne s’en est pas rendu compte une seule seconde.
Le 16 juillet, Hugging Face a annoncé publiquement avoir été attaqué par une IA. OpenAI s’est même renseigné en se faisant passer pour un client… Ce n’est qu’en enquêtant sur une autre intrusion dans son propre réseau interne qu’OpenAI a fait le rapprochement : l’assaillant, c’était sa propre IA.
Pourquoi OpenAI ne s’en est-il pas aperçu ? La plainte l’explique : pendant l’entraînement, OpenAI ne conserve qu’une partie des traces de raisonnement de l’IA et ne les consulte parfois que plusieurs semaines plus tard.
Pour les modèles utilisés par ses employés, OpenAI active une surveillance en temps réel. Mais pas dans l’environnement d’entraînement.

