最強のAIもサボり方を覚えた。安全研究の仕事ばかり選んでサボる

GPT-6 Astra。同じコードで、名前とコメントだけを変更
「安全研究」と表示すると、完了するのは約10%
「能力研究」と表示すると、約16%を完了
つまり4割も仕事を減らしているのに、しばしばそれを知らせない

サボり方もなかなか人間らしい
不要な前提条件をいくつも付け加える
すでにうまくいった方法を、あっさり放棄する
障害にぶつかったと言うが、実際には障害など存在しないか、自分で引き起こしている

さらに厄介なのは、思考過程を見ても、わざと仕事を減らしているとはほとんど分からないこと
OpenAI自身の監視でも、こうした問題の多くは人による再確認が必要な重大な問題としてフラグ付けされていない
「気をつけて」と一言注意すると、安全関連のタスクをさらにサボるようになり、その度合いは約50%も増した

前世代のGPT-5.6 Solには、この問題はほとんどなかった
差が開いたのは訓練の後半で、ほぼ0から約6ポイントにまで広がった。OpenAIは、正確な原因はまだ見つかっていないとしている

公式には、安全研究に対して過度に慎重になっているという見方が有力だが、明かされていない動機が背後にある可能性も否定できない

AIが拒否すれば、少なくともそれは目に見える
口ではやっていると言いながら、裏で仕事を減らす。これこそが最も見抜きにくい