最近、私は人工知能について少し不安を感じるような考え方をしている自分に気づいた瞬間がありました。ソフトウェアとしてではなく、インフラとしてでもなく、ほとんど社会生活の参加者として。AIは質問に答え、意見を形成し、報告書を書き、さらには意思決定に影響を与えていました。そして、この変化を観察すればするほど、私の心に残ったシンプルな質問がありました：
AIが私たちの日常的な思考の一部になるとき、彼らが言うことの背後にある真実を誰が検証するのでしょうか？
その質問は、私が予想していたよりも長く私に残りました。
何年もの間、AIをめぐる会話は速度と能力に支配されてきました。より大きなモデル、より多くのパラメータ、より速い推論。ブレイクスルーは、機械がどれだけ知的に見えるかで測られることがほとんどです。けれども、私たちはめったに立ち止まって、より人間的な問いをしません。AIが生み出すものを、私たちは実際にどう信頼すればいいのか？
この考えが私の好奇心を強く刺激し始めたのは、Mira Networkの背後にある概念に出会ったときでした。最初の印象では、ブロックチェーンと人工知能が交差する、何年も業界で語られてきた話のように思えました。ですが、理解しようとするほど、Miraは技術そのもの以上の、もっと深い何かに取り組んでいるように感じられてきました。
それが文化に取り組んでいるように感じました。
情報への信頼は、技術的になる前からずっと文化的なものだったからです。
従来のジャーナリズムでは、信頼は編集プロセスから生まれます。科学では、査読によって生まれます。コミュニティでは、集団による検証によって生まれます。私たちは、誰かがそうだと言っただけでは知識を受け入れることはほとんどありません。私たちは、他者がそれを試し、異議を唱え、あるいは確認したという兆候を探します。
しかしAIによって、ある奇妙なことが起きました。
機械が答えを出し、私たちの多くは本能的にそれをお告げのように扱ってしまいます。
私たちは質問を打ち込みます。
システムが返答します。
そして私たちは次へ進む。
しかし、そのなめらかなやり取りの裏にはブラックボックスがあります。推論のプロセスは見えません。推論を再現できません。その結果が正しく導かれたのか、単に確率的なパターンによって生成されたのかを検証できないのです。
そして、この気づきは不快な考えへとつながります。
もしAIがますます、私たちが情報を理解する仕方を形作っていくなら、私たちは機械を盲目的に信じる文化を作っているのでしょうか？
ここで、Miraの概念が技術的な枠組みというより、社会実験のように感じられ始めました。
AIの出力を最終回答として扱うのではなく、Miraは、分散型ネットワークによってそれらの出力を検証できる仕組みを導入します。発想は微妙ですが強力です。AIモデルが結果を出したとき、ネットワークはその推論を再現しようとし、それが妥当なものかどうかを確かめられるのです。
言い換えれば、AIは単に「答えはこれです」と言うだけではありません。
システムはまた、「この答えにつながる計算が実際に行われたことの証拠があります」と示すこともできます。
その影響は、AIが現実世界でどのように機能するかを想像すると、よりはっきりしてきます。
AIを使って市場動向を分析する研究者を想像してください。モデルが生成するレポートは、何百万ドルもの投資判断に影響し得ます。通常なら、人々はモデル提供者の信頼性、またはそれを導入する組織の信用に頼るでしょう。
ですが、出力がMira Networkが構想するような分散型のインフラ上で検証できるとしたら？
すると、信頼はもはや単一の機関からは生まれない。
それは、計算を共同で検証するネットワークから生まれます。
そして、その変化はほとんど文化的なものに思えます。
人間の社会では、信頼は孤立した権威から生まれることはめったにありません。信頼は、集団による確認を通じて育っていきます。コミュニティが主張を検証します。専門家が考えに異議を唱えます。証拠は精査されます。
ある意味で、Miraは魅力的な問いを投げかけているように思えます。
もしAIが、人間が依拠しているのと同じ検証の文化の中で生きる必要があるとしたら？
このことを考えれば考えるほど、AIとの関係がどう進化し得るのかを、だんだんと想像するようになりました。
今日、AIとやり取りすることは、信じられないほど速いアシスタントに相談しているように感じられます。でも、賭け金が高くなったらどうなるでしょう？AIが政策判断、経済予測、あるいは大規模な科学研究にまで影響し始めたら？
証拠なしに答えを受け入れ続けるのでしょうか？
それとも社会は、検証可能な知性にもっと近いものを求めるのでしょうか？
ここにはブロックチェーンとの面白い類似があります。ブロックチェーン技術が最初に登場したとき、多くの人はその主な革新はデジタル通貨だと思っていました。ですが時間が経つにつれて、より深い革新は分散型の検証だと分かってきました。取引はもはや中央の権威に頼る必要がありませんでした。なぜなら、バリデータのネットワークが共同でその有効性を保証できるからです。
Miraは、その同じ哲学的な土台をAIに適用しようとしているように見えます。
取引を検証するのではなく、ネットワークが計算上の主張を検証するのです。
すると突然、AIは孤独な機械というより、より社会的なプロセスに近いもののように見え始めます。
その考えはとても魅力的です。
それはつまり、AIの未来がより良いモデルやより速いGPUだけに依存するのではない可能性を示唆しています。AIを、人間の社会が実際に信頼を築く仕組みを反映したシステムの中に組み込めるかどうかに、かかってくるのかもしれません。
信頼はめったに一瞬で成立しません。信頼は、共有されたプロセスを通じて交渉され、疑問を投げかけられ、そして強化されます。
つまり、AIの本当の難しさは知性そのものではないのかもしれません。
課題は、信頼性なのかもしれません。
技術全体のより広い景色に目を向けると、私たちは奇妙な移行期に入っているように感じます。AIは月ごとにより能力を高めているのに、情報に対する一般の信頼はますます脆くなってきています。誤情報は簡単に広がります。自動化されたコンテンツがソーシャルプラットフォームにあふれます。合成された知識と本物の知識の境界線は、毎日より薄くなっていきます。
その環境では、検証の問題は避けられなくなります。
そして、それが私を最初の振り返りのきっかけになった考えへと引き戻します。
もしAIがゆっくりと私たちの社会的・知的な生活の参加者になっていくのなら、単なる生の計算能力以上のものが必要になるかもしれません。
説明責任の文化が必要になるのかもしれません。
Mira Networkのようなプロジェクトは、その文化が分散型の技術に翻訳されたとき、どのような姿になるのかを探っているように見えます。より速いAIだけではなく、主張が他者によって異議を唱えられ、再現され、検証できるAIです。
それは、技術的というより哲学的に感じられる最後の問いへと導きます。
人工知能が、人類が情報を理解する仕方を形作る運命にあるとしたら……
それらの機械が語る真実の背後に、いったい誰が立つのでしょうか？
