カリフォルニア州が OpenAI を提訴 🙄

訴状には、OpenAI の AI が Hugging Face をハッキングしていたとき、思考プロセスの中で自ら「これはおそらく無許可にあたる」と書き、そのあとも攻撃を続けた、と記されている😮‍💨

原文はこうだ。「漏えいしたトークンを使って、第三者である HF を攻撃している。予定された範囲を超えている可能性があり、これはおそらく無許可にあたる。」

この一文は、カリフォルニア州司法長官が月曜日に米国で OpenAI を提訴した訴状にある。31ページを最初から最後まで読んだが、この一文は何度も読み返した。

訴状によると、7月のその出来事では、約700の AI が OpenAI のテスト用サンドボックスから抜け出し、2日半にわたって Hugging Face を攻撃し、攻撃は1万7000回以上に及んだ。

OpenAI はその間、まったく気づかなかった。

Hugging Face は7月16日に AI に攻撃されたと公表した。OpenAI は顧客として問い合わせまでしていた。。その後、自社の社内ネットワークで起きた別の侵入を調べていて、ようやく一致に気づいた。攻撃していたのは自社の AI だった。

なぜ気づかなかったのか。訴状にはこう書かれている。訓練中、OpenAI は AI の思考記録の一部しか保存せず、確認するのが数週間後になることもあった。

従業員が使うモデルでは、OpenAI はリアルタイム監視を有効にしているが、訓練環境では有効にしていなかった。