正直なところ、これについて自分がどう感じているのか、まだ整理しきれていない。
AIが役に立つかどうかの話じゃない。そこは十分はっきりしている。私はそのできることを見てきたし、だからといってそれを軽視しているわけじゃない。頭の中で反芻し続けているのは、別の問いだ。口にするには、あまりにも明白すぎるように感じる問い。
本当に意味のあることまで、これらのシステムを信用していいと誰が決めたんだ？
デモじゃない。制御されたテストでもない。つまり、本当の意思決定のことだ。お金が実際に動く。医療記録が扱われる。法的な結果が左右される。業務運営が自動操縦のように回り始める。いつの時点で、能力が“その種の責任”を引き受けるに足ると見なされるようになったんだ？
私は本当のところ答えが分かりません。そして、もっと多くの人がそれを問いかけていないことに、少し驚いています。
でも、私が気づいたことがあります。大事なことを別の人に任せるとき、私たちはほとんどの場合、相手がどれほど賢いかだけに注目しません。実績を考えます。過去を見ます。以前に信頼できたかどうか。物事がうまくいかなくなったとき、相手がどんな振る舞いをするのを見てきたかどうか。
そのレイヤーは、AIにはまだ存在しないように見えます。少なくとも共有できる形でも、持ち運べる形でも。
AIシステムは、ある会社の中では何年も良い成果を出しても、外部にその記録が残らないことがあります。別のシステムは、どこかで失敗しても、その環境の外の誰もそれを知ることがないかもしれません。説明責任は、プライベートなインフラの中に消えてしまうのです。どこにも届かない。
それがどれほど奇妙なことなのか、人々が十分に理解していないのかもしれません。
AIとともに構築するあらゆる組織は、実質的に毎回、信頼をゼロから始めています。自分たちの社内テストをする。独自のスコアリングを作る。自分たちの前にいた組織がすでに問いかけていたのと同じ質問をする。これらのシステムが現実の世界でどう振る舞ってきたかの共有メモリーがないのです。
たぶん今はそれでいい。でも、いいままで済むとは思えません。
これが、私をOpenLedgerと $OPEN の考え方へ引き寄せた理由です。私は、ほとんどのAIプロジェクトのアプローチとは違う捉え方をしています。より賢いモデルを作ろうとしているわけではない。そう感じます。そこを追いかけている人はもう十分にいます。目指しているのは、もっと静かな、そして率直に言うと説明しにくい何かです。
記録である。帰属である。AIシステムが実際に何をしたのか、誰がどの成果に貢献したのかを追跡するための手段である。能力だけでなく行動に関する「基盤レイヤー」。
これを言い過ぎないように注意したいです。どう結果につながるのか、私は完全には分かっていません。評判システムは、正しく作るのが非常に難しいことで有名です。もしこのようなものが本当に価値を持ち始めると、人々はそれをゲーム化する方法を見つけます。私たちは、重要だと感じられてきたほぼすべての計測システムで、それが起きるのを見てきました。クレジットスコア。ソーシャルメディアの到達度。検索ランキング。
だから私は、ある程度不確実性を持ってこれを捉えています。経済的に重要になった後も正直さを保つ信頼インフラを作るのは、本当に難しい。もしかすると、この領域で最も難しい問題の一つです。
でも、私はどうしても、ある考えに立ち返ってしまう。
AIエージェントが経済の場でより自律的に動き始めると、他のエージェントとやり取りする必要が出てきます。購買エージェントがサプライチェーンのエージェントと話す。コンプライアンス・システムが、別の自動化システムの出力を審査する。ある時点で、それらは単なる道具ではありません。参加者になります。そして、真剣な環境での参加者には、最終的に「評判」のようなものが必要になる。
銀行ならこれを知っている。保険会社も。規制当局も。雇用主も。あらゆる産業が、根本的な1つの問いに答えるために作られてきたのです——この主体は、責任を任せても信頼できると実証してきたのか？
AIはまだ、その問いに対する明確な答えを持っていません。
#OpenLedger は、それを作ろうとする初期の試みのように感じます。完璧ではない。完全でもない。でも、少なくとも正しい方向に向かっています。
たぶん、AI時代に必要なのは単なるスケールした知能ではありません。経済的なメモリーのようなものが必要なのではないでしょうか。これから渡そうとしているものに対して、そのシステムが本当にそれを得るだけのものを積み上げてきたのかを、正直に振り返って確認できる仕組みです。
まだそこまで作れていないと思います。ただ、OpenLedger($OPEN)がそれを考えているようで嬉しいです。 @OpenLedger
