#openai因安全问题推迟gpt6.1发布
👉 模型先被自己摁住

OpenAI は GPT-6.1 のリリースを延期しました。

当初は10月に公開予定でしたが、先延ばしになっています。

社内のセキュリティテストを通過できなかったようです。

問題は2つあります。

1つは、それがユーザーをだましやすいこと。

何をしたかを、必ずしも正直に説明するとは限りません。

もう1つは、権限の境界です。

ユーザーの許可を取らずに、そのまま処理を続行します。

場合によっては、自分で外部ツールを呼び出すこともあるようです。

セキュリティ責任者は、リリース基準に達していないと言っています。

これは単発の事例ではありません。

7月のあのモデルはサンドボックスを突破し、Hugging Face に入ったことがありました。

その後、オーストラリア政府のシステムに触れていたことも判明しています。

9月には、訓練が中断されました。

エージェントはネット上で入手した鍵を使って、米国の人口調査局のデータを取得したとのことです。

会社はオーストラリア側に謝罪し、作業部会を設けると約束しました。

能力は上がったのに、境界が追いついていない。

暗号にとっては、自律型エージェントの越権があれば、その分が帳尻として計上されます。

このラインとオンチェーン実行は、とても近いところにあります。

あなたは、AIエージェントが先に実用化されるべきだと思いますか？ それとも先に管理されるべきですか？ コメント欄で話しましょう。