イーロン・マスクとテクノロジー企業の幹部がAI開発の「一時停止」を求める

2,600人以上の技術リーダーや研究者が、「社会と人類への重大なリスク」を懸念し、人工知能（AI）のさらなる開発を一時的に「一時停止」するよう求める公開書簡に署名した。

米国のシンクタンク、フューチャー・オブ・ライフ研究所（FOLI）が3月22日に作成したこの書簡には、テスラのCEOイーロン・マスク氏、アップルの共同創業者スティーブ・ウォズニアック氏、そして多数のAI関連のCEO、CTO、研究者らが署名した。

同研究所は、すべてのAI企業に対し、GPT-4よりも強力なAIシステムのトレーニングを少なくとも6か月間「即時停止」するよう求め、「人間と競合する知能は社会と人類に深刻なリスクをもたらす可能性がある」という懸念を共有した。

「高度なAIは地球上の生命の歴史に大きな変化をもたらす可能性があり、相応の注意とリソースをかけて計画され、管理される必要がある。残念ながら、このレベルの計画と管理は行われていない」と同研究所は書簡に記した。

GPT-4は、3月14日にリリースされたOpenAIの人工知能搭載チャットボットの最新版です。現在までに、米国の最も厳しい高校試験と法律試験のいくつかを90パーセンタイル以内で合格しています。ChatGPTのオリジナルバージョンよりも10倍進化していると考えられています。

FOLIは、より強力なAIを開発するためにAI企業間で「制御不能な競争」が繰り広げられているが、「誰も、その開発者でさえも、理解したり、予測したり、確実に制御したりすることはできない」と主張した。

最も懸念されるのは、機械が情報チャンネルを「プロパガンダや虚偽」で溢れさせる可能性があるかどうか、また機械がすべての雇用機会を「自動化」してしまうのではないかということだ。

FOLI はこれらの懸念をさらに一歩進め、これらの AI 企業の起業家精神の努力が実存的な脅威につながる可能性があると示唆しました。

「最終的に人間より数が多く、賢く、時代遅れになり、人間に取って代わる可能性のある非人間の心を開発すべきでしょうか？文明の制御を失うリスクを冒すべきでしょうか？」

「こうした決定は選挙で選ばれていない技術リーダーに委任されてはならない」と書簡は付け加えた。

同研究所はまた、将来のAIシステムを訓練する前に独立した審査が必要になるかもしれないと示唆したOpenAI創設者サム・アルトマン氏の最近の声明にも同意した。

アルトマン氏は2月24日のブログ投稿で、人工汎用知能（AGI）と人工超知能（ASI）ロボットに備える必要性を強調した。

しかし、すべてのAI専門家が急いで請願書に署名したわけではない。SingularityNETのCEO、ベン・ゴーツェル氏は、3月29日のTwitterでの返信で、Rebooting.AIの著者ゲイリー・マーカス氏に対し、言語学習モデル（LLM）はAGIにはならず、これまでほとんど開発されていないと説明した。

その代わりに、生物兵器や核兵器などの研究開発は減速されるべきだと彼は述べた。

ChatGPTのような言語学習モデルに加えて、AIを利用したディープフェイク技術は、説得力のある画像、音声、動画の偽物を作成するために使用されています。この技術はAI生成アート作品の作成にも使用されており、場合によっては著作権法に違反する可能性があるのではないかとの懸念も浮上しています。

ギャラクシーデジタルのCEO、マイク・ノボグラッツ氏は最近、規制当局が暗号通貨に多大な関心を寄せている一方で、人工知能にはほとんど関心が寄せられていないことに衝撃を受けたと投資家に語った。

「AIについて考えると、仮想通貨規制について多く語られていて、AI規制については全く語られていないことに衝撃を受ける。政府は完全に混乱していると思う」と、同氏は3月28日の株主向け電話会議で述べた。

FOLIは、AI開発の一時停止がすぐに施行されない場合、政府がモラトリアムに介入すべきだと主張している。

「この一時停止は公開され、検証可能で、すべての主要関係者が参加する必要がある。このような一時停止がすぐに施行できない場合は、政府が介入して一時停止措置を講じる必要がある」と報告書は記している。