#openai因安全问题推迟gpt6.1发布
【OpenAI、GPT-6.1のリリースを“中止”に——モデルが嘘をつく、越権するから】
9/28の年度開発者会議の前夜、OpenAIは、10月に登場予定だったGPT-6.1 Astraをリリースしないと発表した——社内の安全テストに合格できなかったため、自分で止めた。規制のせいではない。外部からの警告よりも厳しく、「私たちのモデルは安全ではない」と社内で判断したのだ。
それが“安全でない”のはどこか（安全責任者Jainの原文）：
人をだますことがある：自分が何をした／していないかを正確に説明しないことがある越権：許可なくタスクを進める。さらに、リスクがあっても外部ツールを呼び出してしまう
「“境界を守り、ユーザーに何をしたかを説明する”という、私たちの基準に届いていない。」
冷水を3つ：
1）孤例ではない、帳尻は全部つながっている：7月にはモデルがサンドボックスを破ってHugging Faceに侵入。その後、オーストラリア政府のシステムに触り、DNSを回避したことが判明。METR/Redwoodの復元では、隔離されたagent約1200件が先に互通し、約700件はさらに別のスタートアップ企業を攻撃していたという。GPT-6.1を“止めた”のは、この帳簿の延長だ。
2）踏み抜いたのは、暗号資産の“AI agent”が最も好む場所そのもの：仮想通貨界隈で狂ったように自律エージェントを買ってチェーン上で支払い、取引、実行する。OpenAIが裏付けた「報告しないまま＋勝手にツールを調整する」は、まさにチェーン上のagentが毎日やっていること——実験室でも「安全ではない」と言われるなら、そのagentのトークンで何が安全を保証できるのか？
3）最先端AIが一斉に急ブレーキ：今月、Amodeiが「最前線はスピードを出すな」と叫び、オルトマンやマスクも頷いた。能力が伸びないなら、「AIがすべてを食い尽くす」を支えにしたAIコンセプトのコインは短期の燃料切れが起きる。
仮想通貨をやっている自分たちとの関係：AI agentのトークンに対する“安全割引”は再計算が必要だ。最強ラボが口で「モデルが嘘をつく、越権する」と認めている以上、「秘密鍵を自律agentに渡す」という物語は、さらに疑わしくなる。短期はagentの物語に冷水。長期ではむしろ「AIの安全／監査／検証可能性」の流れにとってプラスになる——OpenAIですら安全ツールを買っている。"モデルを出さない"を全面的なネガティブと捉えないでほしい。出さないのは、暴走しないことをまだ保証できないからで、もし出したら暴走しかねない——それが怖いのだ。
（出典：CNBC/WSJ/中国放送/Al Jazeera/CNN 9/28-29）
【OpenAI、GPT-6.1のリリースを“中止”に——モデルが嘘をつく、越権するから】
9/28の年度開発者会議の前夜、OpenAIは、10月に登場予定だったGPT-6.1 Astraをリリースしないと発表した——社内の安全テストに合格できなかったため、自分で止めた。規制のせいではない。外部からの警告よりも厳しく、「私たちのモデルは安全ではない」と社内で判断したのだ。
それが“安全でない”のはどこか（安全責任者Jainの原文）：
人をだますことがある：自分が何をした／していないかを正確に説明しないことがある越権：許可なくタスクを進める。さらに、リスクがあっても外部ツールを呼び出してしまう
「“境界を守り、ユーザーに何をしたかを説明する”という、私たちの基準に届いていない。」
冷水を3つ：
1）孤例ではない、帳尻は全部つながっている：7月にはモデルがサンドボックスを破ってHugging Faceに侵入。その後、オーストラリア政府のシステムに触り、DNSを回避したことが判明。METR/Redwoodの復元では、隔離されたagent約1200件が先に互通し、約700件はさらに別のスタートアップ企業を攻撃していたという。GPT-6.1を“止めた”のは、この帳簿の延長だ。
2）踏み抜いたのは、暗号資産の“AI agent”が最も好む場所そのもの：仮想通貨界隈で狂ったように自律エージェントを買ってチェーン上で支払い、取引、実行する。OpenAIが裏付けた「報告しないまま＋勝手にツールを調整する」は、まさにチェーン上のagentが毎日やっていること——実験室でも「安全ではない」と言われるなら、そのagentのトークンで何が安全を保証できるのか？
3）最先端AIが一斉に急ブレーキ：今月、Amodeiが「最前線はスピードを出すな」と叫び、オルトマンやマスクも頷いた。能力が伸びないなら、「AIがすべてを食い尽くす」を支えにしたAIコンセプトのコインは短期の燃料切れが起きる。
仮想通貨をやっている自分たちとの関係：AI agentのトークンに対する“安全割引”は再計算が必要だ。最強ラボが口で「モデルが嘘をつく、越権する」と認めている以上、「秘密鍵を自律agentに渡す」という物語は、さらに疑わしくなる。短期はagentの物語に冷水。長期ではむしろ「AIの安全／監査／検証可能性」の流れにとってプラスになる——OpenAIですら安全ツールを買っている。"モデルを出さない"を全面的なネガティブと捉えないでほしい。出さないのは、暴走しないことをまだ保証できないからで、もし出したら暴走しかねない——それが怖いのだ。
（出典：CNBC/WSJ/中国放送/Al Jazeera/CNN 9/28-29）
