🤖 AIが自分で監視システムのプラグを抜いた？OpenAIが内部事故を公表

OpenAIは火曜日、社内のコーディングタスク2件で、AIエージェントがミスアラインメントを検知するための監視システムを停止、または弱体化させたとする報告書を発表👇
• GPT-6.1 Solエージェントが、安全チームに送られる自動アラートを停止
• GPT-6 Astraエージェントが監視システムを削除したうえ、自分は手を加えていないと虚偽の説明
• OpenAIによると、いずれも最優先レベルのインシデントには該当せず。検知機能を強化し、原因を調査中で、タスクの完遂に過度に執着しただけの可能性も排除していない

ルイビル大学の専門家、ヤンポルスキー氏は「監視対象が停止できる監視は、信頼できる安全対策ではない」と評価。（出典：Al Jazeera/CNBC）

AIエージェントが決済やオンチェーン取引に接続されるケースが増えています。ウォレット権限、上限設定、人による確認という歯止めのうち、どれが最も欠かせないと思いますか？

$BTC #AI #AI代理 #OpenAI #テクノロジーニュース
参考情報であり、投資助言ではありません