🚨 AIを支配するための競争が、誰も制御できないものを生み出してしまったら?
Business Insiderによると、ドナルド・トランプとAnthropicのCEOダリオ・アモデイが、今週日曜日に夕食をともにする予定です。詳細なアジェンダは公開されていません。
しかし、この会談はチャットボットをはるかに超えた問いを投げかけています。もし、自分たちの能力を大きく上回る知性を開発してしまったら、どうなるのでしょうか?
この状況を想像してみてください。
ある大国は、自分の対抗相手がそれをもうすぐ達成しようとしていると考えています。リスクを評価するために足を止めることは不利に見え始めます。企業には加速を求める圧力がかかります。安全性のテストは、いち早く完成させるための障害になります。
誰も置いていかれることを恐れています。誰も先へ進もうとします。
相手側が自分たちより先に進めると信じているのなら、誰が減速する勇気を持てるでしょう?
私が心配しているのはまさにこのシナリオです。理解よりも勝利が重視される競争。
非常に高性能なAIは、医療のブレークスルーを加速させるかもしれません。開発されるか、あるいは危険な形で使われれば、サイバー攻撃、兵器開発、あるいは大規模な扇動や操作も可能にしてしまうでしょう。
さらに、効果的な監督を逃れながら自律的に動作できるなら、結果は壊滅的になり得ます。最悪のケースでは、人類そのものが危機にさらされる可能性すらあります。
これは議論されているリスクです。必然的な結末でも、「制御不能の超知能がすでに存在する」ことを示す証拠でもありません。
また、「人間を憎む」機械を想像する必要もありません。危険な能力、定義が不十分な目的、そしてそれを間に合うように止められない人々だけでも十分です。
投資家として私たちは、チップ、エネルギー、データセンターを見ています。市民として私たちは、これらのシステムを誰が管理し、失敗したとき誰が責任を負うのかを問う必要があります。
株価は回復し得ます。しかし、いったん受けた損害の中には取り返しのつかないものもあります。
相手より先に到達することを許すことになるとしても、大国が安全のために減速することをあなたは信じられますか?
#AI #Superintelligence $ANTHROPIC