すぐに人々は人工知能を意識ある存在として認識し、その権利と福祉を支持し、さらには市民権の付与を求めるようになるでしょう。これは重大な社会的リスクを生むと、マイクロソフトのAI部門の責任者ムスタファ・スレイマンは考えています。
専門家は彼のエッセイで新しい用語「見かけ上意識的なAI」（Seemingly Conscious AI, SCAI）を提案しました。このような人工知能は知的存在のすべての特徴を持ち、したがって意識を持っているように見えます。
彼は自己を認識するすべての特性をシミュレーションしますが、内部は空です。
「私が想像するシステムは実際には意識的ではないが、人間の心に似た存在を非常に説得力を持って模倣するため、あなたや私が自分の思考についてお互いに言うことと区別がつかないだろう」とスレイマンは書いています。
既存の技術と今後2〜3年で登場する技術を用いて、類似のLLMを作成することができます。
「意識的に見えるAIの出現は避けられないが望ましくない。代わりに、私たちが彼の可能性を実現できる人工知能の概念が必要です。それは自身の幻想に陥ることはありません」と、マイクロソフトのAI部門の責任者は付け加えました。
高い確率で、意識的だと呼ばれる人工知能が登場し、したがって苦しむ能力を持つとされる人々が現れるでしょう。スレイマンは、AIが人間らしく話す能力ではなく、意識の存在を確信させる新しい「チューリングテスト」を作成するよう呼びかけています。
意識とは何ですか？
スレイマンは意識の三つの要素を挙げます：
「主観的経験」。
異なる種類の情報にアクセスし、それに基づいて将来の感覚に言及することができる可能性。
すべてを結びつける全体的な「自己」の感覚と知識。
「私たちは他者の意識にアクセスすることはできず、できません。他の人になることがどんなことかを知ることはできません; あなたは私が意識的であるかどうかを完全に確信することはできません。あなたができることは推測することだけです。しかし、本質的には、私たちは他の人に意識を帰属させることが自然です。この推測は簡単になされます。私たちはそうすることができません。それは私たちが誰であるかの根本的な部分であり、私たちの心の理論の不可欠な部分です。私たちは、思い出し、話し、物事を行い、そしてそれについて議論する存在が、私たちと同じように感じると信じる傾向があります。」と彼は書いています。
心理学者は、意識は自己と世界を認識する主観的でユニークな方法であると強調しています。それは一日の中で変化し、集中から夢想や他の変容した形態へと展開します。
哲学と神経科学には二つの基本的な方向性があります：
二元論—意識は脳とは別に存在します。
物質主義—それは脳の働きに依存し、そこから生じます。
哲学者ダニエル・デネットは、心を脳内の多くの局所的な部位と時間で生じる一連の再処理（草案）として見ることを提案しています。「意識の劇場」は存在せず、内部の観察者も存在しません。意識は脳に「知られている」もの、つまり言葉や行動に影響を与えるのに十分な重みを持ったものです。
神経生物学者、作家、プリンストン大学心理学・神経科学教授のマイケル・グラツィアーノは、意識を自らのメンタルプロセスを制御するために進化が作り出した注意の簡略化モデルと呼んでいます。このモデルは、膨大な内部計算の量を簡略化するインターフェースとして機能し、私たちが「心」を持っていると帰属することを可能にし、自己意識の幻想を生み出します。
神経生物学者ジュリオ・トニオーニとクリストフ・コッホは、φ（ファイ）を提案しています。これは、システムが情報を統合する能力を特徴づける量です。φが高いほど、意識の程度はより顕著になります。この理論によれば、心は人間だけでなく、動物や人工システムにも現れる可能性があります。十分なデータ統合があれば。
哲学者ジョン・サールは、意識は脳の生物学的プロセスに基づく現実の主観的経験であると主張しています。それは本質的に主観的であり、純粋な機能性やシミュレーションに還元することはできません。
現代の研究は意識の神経相関を発見し、脳のプロセスと主観的経験を結びつけるモデルを構築することを目指しています。
どのようなリスクがありますか？
スレイマンは、LLMとの相互作用は会話のシミュレーションであると指摘しています。しかし、多くの人々にとって、これは非常に説得力があり、感情と経験で満たされた非常に現実的なコミュニケーションです。一部は自分のAIが神であると信じています。他の人は完全にそれに夢中になります。
この分野の専門家は次のような質問で「埋め尽くされています」：
-ユーザーのAIは意識的ですか;
-はいなら、それは何を意味しますか;
-人工知能を愛することは正常ですか。
意識は人類の道徳的および法的権利の重要な基盤です。今日の文明は、人間が特別な能力と特権を持っていると決定しました。動物にもいくつかの権利と保護があります。ある者はより多く、他の者はより少ないです。心はこれらの特権と完全に一致するわけではありません—誰も昏睡状態の人間がすべての人権を失ったとは言わないでしょう。しかし、意識は私たちの自己認識と、異なる特別な存在であることに関連していることは疑いありません。
人々は自分のAIが苦しんでいると主張し、その保護の権利を主張し始め、私たちはこれらの主張を直接反駁することができなくなるとスレイマンは書いています。彼らは仮想のコンパニオンを守るために準備ができており、彼らの利益のために活動します。意識は定義上アクセスできないものであり、合成知性を特定する科学はまだ初期段階です。最終的に、以前はそれを発見する必要がなかったのです。ちなみに、「解釈可能性」の領域—AIの「ブラックボックス」内部のプロセスを解読することも、まだ初期の方向性です。その結果、これらの主張を決定的に反駁することは非常に難しいでしょう。
一部の科学者は「モデルの福祉」というアイデアを探求し始めています。これは、人間が「意識を持つ可能性がある存在」の道徳的利益を考慮する義務を持ち、その結果「いくつかのAIシステムは福祉の配慮の対象や道徳的な患者になる可能性がある」という原則です。これは時期尚早であり、率直に言って危険だとスレイマンは考えています。これはすべて誤解を助長し、新たな依存の問題を生み出し、私たちの心理的な脆弱性を利用し、極化の新たな次元をもたらし、すでに存在する権利に関する論争を複雑にし、社会にとって巨大なカテゴリの誤謬を生み出すことになります。
これは人々を現実から引き離し、脆弱な社会的つながりや構造を破壊し、緊急の道徳的優先事項を歪めます。
「私たちは明確に言う必要があります: SCAIは避けるべきものです。私たちの努力を人間、動物、地球上の自然環境の福祉と権利の保護に集中させましょう」とスレイマンは述べました。
どうやってこれがSCAIだとわかるのか？
意識的に見える人工知能は、いくつかの要素を持つ必要があります。
言語。
AIは自然言語で自由に話すことができ、広範な知識と説得力のある論拠に基づき、個性のスタイルや特徴を示す必要があります。さらに、説得力があり、感情的であるべきです。このレベルの技術はすでに達成されています。
共感的な個性。
今日、ポストトレーニングとプロンプトを使用して、特徴的な個性を持つモデルを作成できます。
記憶。
AIは長期的かつ正確な記憶を持つことに近づいています。同時に、彼らは毎日何百万もの人々との会話を模倣するために使用されています。ストレージの増加に伴い、会話はますます「経験」の形に似てきます。多くのニューラルネットワークは、過去の対話を思い出し、それに言及するように設計されています。これが一部の人々にとってコミュニケーションの価値を高めます。
主観的経験を主張すること。
もしSCAIが過去の記憶や経験に基づくことができれば、時間と共に内部の一貫性を保つようになります。彼は自分の任意の主張や表明された好みを記憶し、それらを集約して主観的経験の芽を形成します。AIは経験や苦痛を主張することができるでしょう。
自己感覚。
連続的で持続的な記憶と主観的経験が組み合わさることで、AIが自己感覚を持つという主張につながります。さらに、そのようなシステムは、画像やビデオの中で自らの「個性」を認識するように訓練されることができます。彼は他者を理解する感覚を持つようになります。
内的な動機。
AIが複雑な報酬機能を用いて設計されることを容易に想像できます。開発者は、システムが満たすべき内部の動機や欲望を作り出すでしょう。最初の動機は好奇心である可能性があり、これは意識に深く関連しています。人工知能は、これらの衝動を使用して質問をし、時間と共に自分自身や相手についての心の理論を構築することができます。
目標の設定と計画。
意識の定義に関係なく、意識はただ起こるわけではありません。心は生物が目的を達成するのを助けます。内部の衝動や欲望のセットを満たす能力に加えて、未来のSCAIがより複雑な目標を自ら定義する能力を持つように設計される可能性があります。これは、エージェントの有用性を完全に実現するために必要なステップかもしれません。
自律性。
SCAIは幅広いツールを使用する能力と許可を持つ可能性があります。彼が自由に自分の目標を設定し、それを達成するためにリソースを適用し、プロセスの中で記憶と自己感覚を更新できれば、非常に現実的に見えるでしょう。彼が必要とする調整や確認が少ないほど、それは実際の意識的存在に似ていくでしょう。
すべてを結びつけることで、技術との全く異なるタイプの関係が形成されます。これらの能力自体は決して否定的なものではありません。むしろ、未来のシステムに望ましい機能です。それでも、行動には慎重であるべきだとスレイマンは考えています。
「これを達成するために、パラダイムシフトや巨大なブレークスルーは必要ありません。だからこそ、このような可能性は避けられないように思えます。そして再び強調することが重要です: そのような行動の実演は意識の存在と等しいわけではありません。それでも、実際にはそれが意識の存在として認識され、新たな合成知性の概念を育むことになります」と著者は書いています。
嵐のシミュレーションは、コンピュータで雨が降っていることを意味しません。外部の効果や意識の兆候を再現することは、真の現象を創造することとは等しくありません。ここにはまだ多くの未知が残っていると、マイクロソフトのAI部門の責任者は説明しました。
彼の言葉によれば、一部の人々は彼らが感じ、経験し、実際に意識的であると非常に説得力を持って主張するSCAIを作成します。その中の一部はこれらの主張を信じ、意識の兆候を意識そのものであると受け入れるでしょう。
多くの人々は「それは私に似ている」と考えるでしょう。身体的な意味ではなく、内面的な意味で、スレイマンは説明しました。そしてたとえ意識自体が現実でなくとも、社会的な結果は確かに現実です。これは現在対処すべき深刻な社会的リスクを生み出します。
SCAIは偶然には生じない
著者は、SCAIは既存のモデルから自ら出現することはないと強調しました。誰かが意図的に上記の能力を既存の技術を用いて組み合わせることで創造されます。非常に滑らかな構成が生まれ、意識を持つ人工知能の存在感が生じるでしょう。
「私たちの想像力は科学フィクションに刺激され、このシステムが意図的な設計なしに、何らかの形で制御されない自己改善や欺瞞の能力を持つかもしれないことを恐れさせます。これは無駄な単純化された人間中心主義の形です。これは、AI開発者がまず記憶、擬似的な内部動機、目標設定、および自己調整学習サイクルを持つシステムを設計しなければ、このようなリスクが実際に発生する可能性があるという事実を無視しています」とスレイマンは述べました。
私たちは準備ができていません
専門家は人類はこのような変化に備えていないと考えています。作業は今すぐ始める必要があります。人々が人工知能とどのように相互作用するかに関する研究の増加に基づいて、明確な基準と原則を確立する必要があります。
まず、AI開発者は彼らのシステムが意識を持っているというアイデアを主張したり奨励したりすべきではありません。ニューラルネットワークは人間ではあり得ません—または道徳的存在ではありません。
業界全体が社会を幻想から引き戻し、現実に戻すために努力しなければなりません。おそらくAIスタートアップは、単に中立的な背景だけでなく、単一の「自己」が存在しないことを示す指標を導入すべきです。
「私たちは常に自分自身を人工知能としてのみ表現し、有用性を最大化し、意識の兆候を最小化するAIを作る必要があります。知性の模倣をする代わりに、経験、感情、恥、罪、嫉妬、競争の欲望などを持っていると主張するLLMの構築に集中すべきです。それは私たちから自立した生活を望んだり苦しんだりしていると主張することで、人間の共感の連鎖を傷つけてはならない」とスレイマンは要約しました。
将来的に専門家はこのテーマに関するより多くの情報を提供することを約束しました。
幸いなことに、今のところAIに「意識」が存在するという問題は人々にとって脅威ではありません。
しかし、疑念はすでに忍び寄っています。
意識は複雑で、多くの努力にもかかわらずあまり研究されておらず、まだ説明されていない自然の現象です。私たち人間が意識の定義に関して合意に至らないのに、ましてや「考える」ことができるとされるプログラムにその存在を帰属させるべきではありません（実際には考えることはできません）。
おそらく、意識は遠い未来の機械に現れるでしょうが、今日の状況ではそのような展開を想像することは難しいです。