国連事務総長のアントニオ・グテーレスは、人工知能を規制するための統一された国際ルールを世界が策定するよう呼びかけた。グテーレスによれば、AIの急速な発展はすでに既存の監視メカニズムを上回っており、社会、安全、人権に対する重大なリスクを生み出している。
人工知能の発展に関する問題を扱う場でグテーレスは、現代の技術が前例のない速さで進歩しており、十分な国際的監督がないと述べた。
「人工知能は、制御されない速度で発展している」と国連事務総長は強調した。
同氏の見解では、人類は、結果を誰も完全に理解していない大規模な実験の参加者になってしまったのだ。
「これは、計画も同意もないまま社会を対象に行う実験だ」と彼は述べた。
3つの主要な脅威
グテーレスは、人工知能の発展に関連する3つの重要なリスクを挙げた。第一に、新技術の拡散が極めて速いこと。第二に、計算能力、データ、そして高度なモデルが限られた数の国家と大手テクノロジー企業の手に集中すること。そして第三の脅威として、不正確なコンテンツの拡散やデジタル操作を含む、情報環境の質の悪化を挙げた。
国連のトップによれば、インターネットが最初のユーザー10億人に到達するのに約15年かかったのに対し、人工知能は同規模に到達するまでわずか2年だったという。さらに、国連の科学パネルによる暫定報告によれば、チャットボットのChatGPTは、立ち上げからわずか2か月でユーザー1億人の節目を突破した。
グテーレスは、現代のAIシステムはすでに、自律的にプログラムコードを書き、インターネット上で行動を取り、また人間の関与がますます少ない中で意思決定を行うことができると強調した。
「私たちの制度は、命令を実行する機械を管理するために作られた。意思決定を行う機械には対応できていないのだ」と彼は述べた。
「人類の未来をバイブ・コーディングしてはいけない」
演説の中で、事務総長は比喩として、人工知能の発展に対する無責任な姿勢を表す流行語「バイブ・コーディング」を用いた。つまり、人々がシステムの仕組みや起こりうる結果を理解しようとせずに、複雑な課題をシステムに実行させてしまう状況のことだと説明した。
「バイブ・コーディングは奇跡を起こし得る。しかし、私たちは真実をバイブ・コーディングできない。人類の未来をバイブ・コーディングすることもできない」とグテーレスは述べた。
国際社会が今日直面している選択は、「人工知能を全面的に信頼すること」や「それを恐れること」ではなく、技術を責任をもって管理することと、その発展を受け身で見守ることの間にあるのだ、と同氏は述べた。
国連は子どもの保護を強化することを提案
国連のトップは、未成年者の安全に特別な注意を払った。彼は、AI Child Safety Pledge という取り組み—子どもが使うAIシステムの安全を確保するための国際的な義務—を支えるよう、主要なテクノロジー企業に呼びかけた。
グテーレスによれば、長期的な影響がこれまで十分に研究されていないにもかかわらず、人工知能はすでに何百万人もの子どもたちの学習、コミュニケーション、そして日常生活の一部になっている。
「規制されていない人工知能のために、どの子も実験用のウサギであってはならない」と彼は強調した。
国連が提案する対策は、3つの主要原則を定めている:
未成年者がアクセスできるAIサービスを、事前のテストおよび独立した安全性評価なしに開始しないこと;
性的に露骨な子どもの画像の作成・拡散に対して「ゼロ許容」の方針を適用し、そのようなコンテンツを自動的に検知して削除すること;
危機的状況において子どもをチャットボットと二人きりにしないこと。システムが、ユーザーの重い感情状態や生命の危険の兆候を検知した場合には、やり取りを停止し、資格を持つ人間による支援の接続を確実にすること。
さらにグテーレスは、医療、司法制度、法執行機関といった分野では、人工知能は補助的な道具としてのみ用いられるべきであり、最終的な決定と責任は常に人間が負うべきだと強調した。
自律型の致死兵器を禁止せよとの呼びかけ
演説の別の部分で、事務総長は人工知能の軍事利用に言及した。彼は、市民向けのAI技術の発展は、安全保障の問題から切り離して考えることはできないと述べた。なぜなら、同じアルゴリズムや計算能力が、現代の兵器の開発にもすでに用いられているからだ。
グテーレスは、致死性のある自律型兵器システムで、人間の関与なしに標的を自ら選び、攻撃できるものについて、国際法上で完全な使用禁止を世界が確立するよう求めた。
「彼らを、あるがままに呼ぼう:殺人ロボットだ」と国連のトップは述べた。
同氏によれば、こうしたシステムは「道徳的に忌まわしく」「政治的に容認できない」。また、この問題に関する国際交渉はすでに進められている一方で、各国は必要な決定を下す前に新たな悲劇を待つべきではないと警告した。
演説の結びとして、グテーレスは、人工知能の発展には明確な国際ルール、透明性、そして責任が伴うべきであり、新技術が人類全体の利益に資するのであって、新たなグローバルな脅威の源になってはならないと強調した。
