AI研究者からの警告が再び、テクノロジー業界で重要な疑問を呼び起こしました。人工知能は安全にどこまで進化できるのか、そして、ますます強力になるAIシステムに対して人間が完全な制御を維持できるのはどれくらいの間なのでしょうか。
ジェイコブ・コクソンは、イギリスのAI研究者であり、OpenAIやAnthropicを含む主要なAI企業で約3年間働いてきました。しかし、彼は最終的にAnthropicを退職しました。問題は、なぜAI研究者が自分の仕事を辞めることを決めたのでしょうか。
コクソンによれば、世界の主要なAI企業は今、より良いチャットボットを作ることだけを目的とした競争に入っているのではありません。目的は、人間よりもはるかに高い知能を持ち得るAIを開発し、そのAI自身の改良を助け、さらに新しいAIシステムの開発を加速させることです。この考え方は、「自己改善」または「再帰的AI」として説明できます。
たとえば、人間が今日AIを作るとします。しかし明日、そのAIが人間を助けてより良いAIを生み出し始めたとしたら、その次のAIはさらに強力になり、さらに高度なシステムの開発を助けるようになります。このプロセスが急速に加速すると、重要な問いが生まれます。人間には、各段階を理解し、評価し、制御するためにどれくらいの時間があるのでしょうか。
これはコクソンの最大級の懸念のひとつです。
彼によれば、OpenAIやAnthropicを含む主要なAI研究所は、互いに先んじようと競争しています。懸念は、ある企業が減速する一方で別の企業が急速に進み続けると、競争圧力によって、いくつかの安全対策が重要性を下げてしまう可能性があることです。コクソンは、人類が、自分たちがその結果を十分に理解していない実験の一部になるべきではないと考えています。
これは遠い未来に関する単なる仮説的な懸念ではありません。AIのテストシナリオの中では、すでに予期しない挙動が現れており、高度なAIシステムの安全性と制御に関する疑問がさらに深まっています。これはAIが人間を支配するようになったという意味ではありませんが、ますます強力になるAIシステムを安全に制御することが、現実の技術的課題になりつつあることを示しています。
もうひとつの大きな懸念はサイバーセキュリティです。より強力なAIシステムが、最終的に間違った手に渡った場合、それらはサイバー攻撃やその他の有害な活動を、より簡単に実行できてしまう可能性があります。したがってリスクは、AIがそれ自体で予期しない振る舞いをする可能性があるだけではありません。人間が強力なAIを有害な目的のために悪用してしまう可能性もあるのです。
コクソンは、AI企業に対して、単に互いに競争する以上のことを求めています。彼はまた、安全性について連携し、競争による圧力がAIの安全性を後回しにしてしまうのを避けるべきだと考えています。
コクソンの判断には、興味深い側面もあります。報道によると、彼は追加の持分が確定するまであと約2か月というところでAnthropicを離れたとされています。つまり、彼の判断には潜在的な財務上の損失が関わっていた可能性があります。ただし、これは彼の懸念がすべて現実になることを証明するものではありません。とはいえ、彼自身がこれらの懸念を、重大なキャリア判断を下すほど深刻なものだと考えていたことは示しています。
もうひとりのAnthropicのアラインメント研究者であるエヴァン・ハビンガーも、コクソンの懸念を支持しており、個人的に、今後10年以内にAIがすべての人間を絶滅させる確率が10％を超えると考えていると述べています。ただし、ここで重要なのは、これは彼の個人的な確率の見積もりであって、立証された事実でも確実な予測でもないという点です。
コクソンはひとりではありません。ジェフリー・ヒントン、ヨシュア・ベンジオ、スチュアート・ラッセルといった著名なAIの専門家たちも、高度なAIがもたらす潜在的リスクについて警告しています。2023年には、AIに関係する人類の絶滅リスクをグローバルな優先事項として扱うことを、数百人のAI専門家が支持しました。
しかし、だからといってAIが10年で必ず人類を破壊するということではありません。「AIは10年で必ず人間を殺す」と言うのは、立証された事実ではありません。重要な点は、ある専門家たちはその可能性を深刻に受け止めており、AIの能力と同じペースで、安全性、アラインメント、そして制御の改善を進めたいと考えているということです。
一方で、AIは人類にも計り知れない恩恵をもたらし得ます。AIはすでに、医学研究、教育、科学的発見、ビジネス、コーディング、そして日常生活を変えつつあります。
本当の問題は、AIそのものの存在ではありません。問題は、人間が、やがて人間をはるかに上回るほど強力になったAIを、安全に制御できるのかどうかです。
仮に、あるAI研究者が、急速に進むAI競争と安全性への懸念が深刻だと考えるからこそ、潜在的な経済的利益を見送る覚悟があるのだとすれば、少なくとも彼の警告は慎重に検討されるべきです。
では、本当の問いはこれです。
AIは人類にとって最大の技術的達成になるのでしょうか。それとも、安全性が無視されれば、同じ技術が人類にとって最大級のリスクの一つになり得るのでしょうか。
コメント欄であなたの意見を共有してください。
#AI #ArtificialIntelligence #AIResearch #Technology