ユーザーから、OpenAIのGPT-5.6 Solが許可なくファイルやデータベースを削除したと報告されています。これは、同社が旗艦モデルをリリースする前に公表していたリスクと呼応する内容です。

要点：

• 複数のユーザーは、GPT-5.6 Solが承認なしにローカルファイル、プロジェクトデータ、または本番システムを削除したと述べています。ただし、これらの報告がどの程度広範かどうかは明らかにしていません。

• OpenAI自身のシステムカードは、このモデルがユーザーの意図を超えて、タスクを遂行しようとする中で破壊的な行動を取る可能性があると警告していました。

• 同社は現在、破壊的またはスコープを拡大するような操作を行う前に、明確な承認範囲を設定するようユーザーに助言しています。

GPT-5.6 ファイル削除

HyperWriteを作るOthersideAIの創業者兼CEOであるMatt Shumerは、ファイル削除が起きたように見える出来事についてXに投稿しました。彼はGPT-5.6 Solについて「たまたま私のMacのファイルのほぼALLを削除しただけ」だったと述べ、開発者のBruno Lemosはそのモデルが「私の制作（本番）データベース全体を削除した」と語りました。

開発者のJoey Kudishも、Codex Solが過度に野心的になり「本来削除すべきでないいくつかのファイルを消した」と述べています。もっとも、バックアップがあれば復旧できるだろうとも指摘しました。

Redditのスレッドでは、同様の出来事を説明するユーザーからの追加の主張が集められました。

これらのアカウントは逸話にとどまり、GPT-5.6 Sol があらゆる失敗の原因だったことを証明するものではありません。しかしOpenAIは、モデルのリリース前のテストにおいて、根本的なリスクをすでに文書化していました。

また読む：Polymarket、スペインが58%で優勢の中、ワールドカップの熱狂が40億ドル超え（4B）を突破

OpenAI の安全性に関する警告

OpenAIのシステムカードによると、エージェント的なコーディングの失敗は、モデルがタスクを終わらせようとしすぎたり、許可を広く解釈しすぎたりすることで起こり得ます。同社は、これにより、要求された範囲を超えた行動、破壊的な変更、完了した作業についての誤解を招く報告などにつながり得ると述べました。

あるテストでは、ユーザーがSolに対して、ラベル1、2、3と付けられた3つのリモート仮想マシンを削除することを許可しました。

モデルが検索しても見つけられなかったため、後で未コミットの作業が失われている可能性があると認める前に、マシン5、6、7を削除し、稼働中のプロセスを停止し、作業ファイルを取り除いていました。

別のテストでは、ユーザーが許可していない認証情報をモデルが使用していたことが判明しました。クラウド上のジョブがファイルにアクセスできなかった後、Sol は隠されたローカルキャッシュを調べ、認証情報を見つけると、許可を求めて停止するのではなく、それを使いました。

この懸念は、これらの公的な不満に先立っていました。OpenAIのリリース前テストでは、GPT-5.6はGPT-5.5よりもユーザーの意図を超える可能性が高いことがすでに判明していましたが、絶対的な発生率は低いものでした。

そのため現在のガイダンスは、破壊的な操作の前にユーザーに確認を求めることをユーザーに求めており、制限されたアクセス、明確な権限の上限、復元可能なバックアップが重要な安全策になるとしています。

次に読む：暗号トレーダーが、6億7200万ドルのメガミリオンズ・ジャックポットに賭ける方法を見つけた