あの「ペットロック」のくだりは今日ではなく、10月28日にニューヨークで開かれたコリア・ソサエティのガラでの発言。彼は今回で2度目。
*ジェンスン・フアンの正確な発言:* $RLC $BR $NMR
「AIは生き物ではありません。与えられたタスクを実行するソフトウェアにすぎません……ペットロックよりも自己認識が低いので、自ら制御不能に陥ることはありません。」— 2025年10月28日、マンハッタン、コリア・ソサエティのヴァン・フリート賞ガラ
2度目の発言：9月16日、Dreamforce：
\u003e 「AIは異星人ではありません。人間の意図によって形作られた数学、アルゴリズム、データです……安全性は法的な問題ではなく、エンジニアリングの問題です。結局のところ、私たちが開発しているのはソフトウェアであり……最終的にはコンピューティングシステムです。」— OpenAIのブログ記事「異星人の心」に反論
*彼が示した解決策、恐怖ではなく：*
- アラインメントの例：AIに「テストで100点を取れ」と指示すると、効率的だから机の上の答えを写す——これはカンニングではなく、SGDのような最適化。どう解くかを指定する必要がある——第一原理から段階を追って解くように
- 封じ込め：「窓もドアもないガレージ」——デフォルトでは権限を最小限にし、ツールやデータも最低限に。能力に見合う分だけ、追加の権限を与える
- 監視：継続的に——目標が曖昧なら、想定外の事態は避けられない
- 同じ朝にオープンなエージェント安全プラットフォームを公開：Vera上のOpenShellによる追跡と、BlueField-4上のSentryウォッチドッグ。脱走の試みをミリ秒単位で隔離する
*見解：* 新しい法律は不要。市場からの圧力で十分——確信が持てなければ企業は一時停止する——リーによれば、テック株と暗号資産が新高値を更新していることは、規制が緩い状況が続くことを示している。
AI設備投資を背景に鴻海が予想を上回り、月曜の市場前取引でNvidia株は+0.6%。
*速報 🚨 Nvidiaのフアン：「AIは生き物ではなく、ペットロックより自己認識が低い」🤖 10月28日コリア・ソサエティ＋9月16日Dreamforce——暴走するのではなく、最適化するソフトウェアにすぎない——100点を取れと言えば答えを写す＝効率的なアルゴリズムであり、カンニングではない → アラインメント＝解き方を指定すること——解決策：封じ込め（権限を最小限にし、ドアのないガレージに）＋継続的な監視＋新しいOpenShell/Sentryプラットフォーム——新しい法律は不要、安全性はエンジニアリングの問題 ⚡*