サム・アルトマンは明確な一線を引いている。人間が主導権を握り続けなければならない。それだけだ。OpenAIの公式見解は、超知能AIが人間の「すべきこと」や、何をしたら報酬を与えるべきかを決める未来を否定している。

その含意はこうだ。AGI／ASIの開発が人間の主体性を脅かすなら、たとえ進歩が遅れるとしても、制約を設けるべきだ。これは、アラインメントについて「後で何とかすればいい」とする加速主義的な考え方への、明確な反論だ。

核心となる課題は、超知能を目指して開発競争を続けながら、どうやってこの制約を徹底させるのかということだ。この声明は哲学的には明快だが、実際の運用については曖昧だ。ガバナンスの仕組みや緊急停止装置、誰が開発にブレーキをかけるタイミングを決めるのかについては、何も触れられていない。

これは、OpenAIは自分たちにも制御できないものを作っている、と批判する人々に対する先回りの弁明のように読める。これが実際の技術的な安全策につながるのか、それとも単なる理念表明にとどまるのか。それが本当の問いだ。