人工知能における信頼性の問題の高まり
ここ数年、私は人工知能について興味深いことに気づきました。この技術は非常に強力になっていますが、同時に多くの人が十分に話さない静かな問題があります。AIは間違っている時でも非常に自信を持って聞こえることがあります。現代のAIツールを使用したことがある人は、おそらくこれを経験したことがあるでしょう。質問をすると、システムは明確な答えを提供し、時には説明や参照まで付けてくれます。しかし、後でその答えの一部が間違っていたことに気づきます。
これは、ほとんどのAIシステムが事実を証明するのではなく、最も可能性の高い次の単語を予測することによって機能するために発生します。彼らは正しく見える言語を生成するのが非常に得意ですが、それが常に正確な情報であるとは限りません。この問題はしばしば「AIホロシネーション」と呼ばれます。高度なモデルでも、時折間違った情報や偏った情報を生成するため、金融、教育、医療、法律などの重要な分野で信頼するのが難しくなります。
なぜ検証が知性よりも重要かもしれないのか
Miraの概念は、人間が情報を確認する方法を考慮すると、より理解しやすくなります。科学では、個人が行った主張を信じることはほとんどできません。その声明は、他の研究者によってテストされ、実験を再現し、証拠を検証します。この主張が何度も何度も証明されるまでは、それは受け入れられた知識にはなりません。
Miraは、人工知能に対して比較可能な価値を移転しようとしています。単一のモデルの出力は、ネットワーク内で自動的に信頼されるわけではありません。それはむしろ、AIの回答を検証可能な小さな主張に分解します。これらの主張は、独立したモデルや検証ノードの数に提出され、それぞれが個別に検査します。
このデザインで興味深いのは、真実をさまざまな態度の合意から生じるものと見なす点であり、中央集権的に解釈される何かではないということです。
システムの分散化の目的。
私の意見では、Miraが際立っているもう一つの側面は、その検証の配置方法です。ネットワークは、検証を実行するために1つの会社や中央サーバーに依存するのではなく、さまざまな独立した参加者の大規模な数に依存しています。これらの参加者は、さまざまなAIモデルとネットワークに提出された請求を実行します。
この分散型組織は、偏見や操作の可能性を排除するため重要です。検証が単一の組織によって行われる場合、どの回答が受け入れられるべきかについて偏見が生じる可能性があります。しかし、独立した検証者の数が多くなると、結果はよりバランスの取れたものになります。
簡単に言えば、Miraは人工知能との信頼レイヤーを確立しようとしています。
システムを正直に保つ動機。
インセンティブは、私が暗号プロジェクトを研究する際に決して無視しないことの一つです。技術だけでは不十分です。これらのシステムは、まっすぐに行動しない人々が罰せられるため、機能する傾向があります。
Miraは、検証者が正しい検証を提出するように動機付けるトークンインセンティブシステムを提案しています。ステークホルダーは、ネットワークに参加するために賭けを行い、正しく検証を実行した場合に報酬を得ることができます。彼らが怠慢または不誠実な検証を提供した場合、一部のステークを失う可能性があります。
AIインフラストラクチャーに関する別の考え方。
私がMiraを考慮すればするほど、それは別の暗号トークンではなく、インフラストラクチャプロジェクトのように思えます。より優れたチャットボットやより賢いモデルを作ることを目指しているのではありません。むしろ、AIの出力が信頼できることを保証するという、より深いことに関心があります。
Miraは、知性だけでは不十分であるという概念を探求しています。私たちが必要としているのは、信頼できる知性です。