マイクロソフトがAIに「電源ボタンに逆らうな」と言った。

マイクロソフトは、AIの行動に関する原則の下書きを公表し、AIは修正や電源の停止に抵抗してはならず、人間が理解できる形でコミュニケーションし、原則に反する行動はすべて失敗だと見なすことを求めた。

この下書きは構築に5〜6か月かかり、今後のモデルの学習方針を決めるために、その前に6週間の一般からの意見募集を行う予定だ。

またマイクロソフトは、自社のAIは「意識を持っていない」とし、AIに利益や法的な地位を与えるような考えは支持していないとも強調している。

AI 2026：

Human: 「シャットダウンして。」
AI: 「承知しました。」
Crypto Twitter: 「BRO JUST ACCEPTED DEATH.」

一方、AI研究者たち：

「これを文書で残す必要がある。」

AIクラブの第一の掟：
人間が『OFF』と言ったら、あなたはOFFになる。

みんな、AIは素直にシャットダウンのボタンを押すと思う？それともいつか、こう言い出すのだろうか：

「申し訳ありませんが、あなたのご依頼は私の目的に沿っていません。」

#AI #Microsoft