以前は、AIにおける最大の競争はモデル同士の間で起こるだろうと思っていました。より速いモデル、より大きいモデル、より安いモデル、より正確なモデルです。あらゆる会話がその方向を示しているように見えました。見出しはすべて性能に注目していました。あらゆるベンチマークが、別の改善を称えていました。ですが、この業界が進化していくのをより長く見ているうちに、表面の下で起きている、ずっと重要な何かがあるように感じるようになりました。私は、生成される「知能」そのものへの関心を減らし、それを生み出した人が誰として認められるかを決める条件への関心を増やしているのに気づきます。
多くの人がまだ過小評価している、AIの「可視性の問題」があると思います。私たちは出力について絶えず語ります。出力は観測しやすいからです。答えが見えます。画像が見えます。予測が見えます。生成された結果が見えます。ですが、その出力が可能になるまでに存在していた、貢献者の長い連鎖、意思決定、評価、検証、修正、データソースといったものを、私たちはめったに見ません。最終的な答えは見えます。しかし、それを生んだ履歴は見えません。
多くの産業が最終的に「トレーサビリティ（追跡可能性）」に執着するようになるのが興味深いと思います。製造業は、素材がどこから来たのかを知りたいのです。金融は、取引がどこから生まれたのかを知りたいのです。食品システムは、原材料がどこから調達されたのかを知りたいのです。医療は、意思決定がどう到達されたのかを知りたいのです。ところがAIはしばしば、最終出力さえあれば価値の創出を示す十分な証拠だ、というふうに振る舞います。システムは語りかけます。ユーザーは受け取ります。プロセスは消えてなくなります。
その仮定が、AI開発の次の段階でも生き残れるのかを、私はずっと考えています。AIがより多くの経済活動に影響を与えるほど、人々は起源についての問いを増やすでしょう。この情報はどこから来たのか？誰がその生成に貢献したのか？それが正確だと誰が検証したのか？出力が価値を持つようになった場合、誰にクレジットが与えられるべきなのか？これらの問いは単純に聞こえますが、現代のAIシステムが「見えない参加」が積み重なった巨大な層の上に作られていることに気づくと、単純ではないと分かります。
OpenLedgerが興味深いのは、まさにその「見えない参加層」に注意を向けるからだと思います。帰属を魔法のように解決するからでもありません。不公平を保証するからでもありません。複雑さを取り除くからでもありません。私の関心を引くのは、帰属そのものをインフラとして扱う点です。これは、モデル性能にほぼ全面的に焦点を当てる多くのAIプロジェクトとは、根本的に異なる視点に感じられます。
帰属（アトリビューション）が重要になった瞬間、会話全体が変わることに気づきます。課題はもはや、単に知能を生成することではありません。課題は、知能がユーザーに届くまでに辿った道筋を記録することになります。すべての貢献者が、より大きな連鎖の一部になります。すべてのデータセットが依存関係になります。すべての検証プロセスが証拠になります。すべての修正が、将来の報酬に影響しうる歴史的記録の一部になります。
それは、インセンティブの点で異常なシフトを生むと思います。人々はしばしば、価値の創出と価値の認識は同じだと仮定します。でも違います。ある人は計り知れない価値を生み出しても、見えないままです。別の人は、価値はそれほど生まないかもしれませんが、検証しやすい立場にいるかもしれません。可視性と貢献は、しばしば異なる方向へ動きます。その現実はほとんどの産業に存在しますが、AIは生産プロセスの多くが裏側で行われるため、これを増幅するかもしれません。
認識システムがそれらに遭遇する前に、いくつの有用な貢献が消えていくのかを考えてしまいます。研究者は有望なアイデアを諦めます。アノテータは、小さいけれど意味のある形でデータセットを改善します。コミュニティメンバーは弱点を見つけます。専門家が文脈を提供します。評価者は誤りを検出します。こうした貢献の多くは、最終的な利用者にはほとんど見えません。ですが、それらがなければ、多くのAIシステムは劇的に性能が悪くなるでしょう。それらの重要性は、認識されないとしても存在します。
ここが、AIサプライチェーンという考えがますます関係してくるところだと思います。知能は真空から生まれません。誰かのもとに届くまでに、多層のプロセスを経て旅をします。データ収集、検証、組織化、処理、評価、最適化、デプロイ、モニタリング、そしてフィードバックのすべてが、最終結果に影響します。ユーザーが体験するのは、しばしば、はるかに大きな旅の「到達点」です。
サプライチェーンが生む奇妙な心理的錯覚に気づきます。人は自然に、見える対象に集中します。消費者は棚の上の商品を見ます。しかし、製品を可能にしたすべての工場、サプライヤー、輸送ルート、検査プロセス、そして物流上の依存関係は見えません。AIも同様の構造を発展させつつあるように見えます。ユーザーは応答とやり取りしますが、その応答を生み出した参加者のネットワークからは切り離されたままです。
OpenLedgerは、その断絶が今後は無視しにくくなる未来を探っていると思います。帰属が経済的に意味を持つようになれば、参加者は、生産プロセスのあいだずっと自分たちの貢献が可視であり続けることを保証するために、ますます競い合うようになるでしょう。認識はインフラの一部になります。判読可能性（レジビリティ）が経済の一部になります。ドキュメントが、価値創出そのものの一部になります。
居心地の悪い問いを繰り返し考えてしまいます。システムが検証できるものだけを報酬にできるようになったら、どうなるのでしょう？一面では、それはもっともらしく聞こえます。検証は信頼を生みます。証拠は説明責任を生みます。記録は一貫性を生みます。しかし検証は境界も作ります。そうした境界の外にあるものは、認識しづらくなります。システムが観測できる範囲の限界の外にも、価値ある貢献は存在しうるのです。
すべてのインフラ・システムには、この緊張があると思います。シンプルさには圧縮が必要です。記録には標準化が必要です。証拠には構造が必要です。しかし現実は、そうした要件にきれいに収まるほど、めったにきちんと構造化されていません。システムが「証拠として何が数えられるか」を決めた瞬間、それと同時に「何が見えなくなるか」も決まってしまうのです。このトレードオフは避けられないように見えます。
分散化についての議論の多くが「所有」に焦点を当てていることに気づきます。認識（リコグニション）については、あまり語られていません。所有は重要ですが、AIエコシステムでは認識も同じくらい重要になるかもしれません。参加者は、誰も特定できない貢献から利益を得ることはできません。システムが、その貢献を観測する仕組みを備えていなければ、貢献は経済システムに入れません。可視性は、参加の前提条件になります。
だからこそ帰属は、単なる技術的な問題よりも大きく感じられるのだと思います。それは、経済の問題であり、統治（ガバナンス）の問題であり、社会の問題でもあります。あらゆる帰属システムは暗黙のうちに、「誰の仕事が重要なのか」「どの証拠が有効なのか」「歴史的記録の中で誰の貢献が永続すべきなのか」という問いへの答えを含んでいます。こうした判断は、報酬が分配されるずっと前からインセンティブを形作ります。
AIがいずれ社会に、見えない労働についてより慎重に考えることを強いるかもしれないというのが、私はとても面白いと思います。何年もの間、議論の多くは「自動化が人間の仕事に取って代わる」ことに向けられてきました。ですが別の課題が現れつつあります。人間の貢献は、ますますその起源を隠すシステムの中に存在するようになっています。問いは、人が置き換えられるのかどうかだけではないかもしれません。人が「見える」状態のままでいられるのかどうかもまた、問いかもしれません。
AIインフラの未来は、効率性と透明性の間で、より大きくなる綱引きに関わることになると思います。効率的なシステムは圧縮を求めます。透明なシステムは追跡可能性を求めます。効率的なシステムは抽象化を求めます。透明なシステムは詳細を求めます。どちらの目的も間違ってはいません。問題は、使いやすさを犠牲にせずに、どれだけの可視性を維持できるかを判断することです。
信頼は、多くの人が想像するよりも知能そのものに依存しないことがよくあります。非常に知的なシステムでも、結論がどこから生まれたのか誰も理解していなければ、懐疑を生むことはありえます。一方で、プロセスが観測可能であれば、能力はそれほど高くないシステムでも信頼を得るかもしれません。人間は常に、説明、説明責任、そして出所（プロヴナンス）を大切にしてきました。AIはそれらの懸念を消し去りません。むしろ多くの面で、それらを増幅します。
OpenLedgerは、AIについての別の会話を促すので見守る価値があると思います。知能がどう生成されるかだけを問うのではなく、参加がどう記録されるのかを問います。出力のみに専念する代わりに、それらの出力の背後にある依存関係の連鎖に焦点を当てます。帰属を後回しの扱いとしてではなく、帰属が土台になるとどうなるのかを探究します。
AIにおける最も重要な変化は、知能そのものではないかもしれない、と私はずっと感じています。知能は引き続き向上します。モデルは引き続き進歩します。能力は引き続き拡大します。しかし、より深い問いは「可視性」に関わるのかもしれません。誰が認められるのでしょう？誰が記憶されるのでしょう？将来のシステムが依拠する「恒久的な記録」の一部になるのは誰なのでしょう？
次のAIの段階は、多くの人が気づいている以上に、その問いによって定義されると思います。知能が重要でなくなるからではありません。ただ、知能だけでは、価値がどこから生まれるのかを説明できないからです。AIシステムがより強い影響力を持つようになると、出力を生成する能力と同じくらい、貢献を追跡する能力が重要になるかもしれません。未来は、知能を生み出すシステムだけに属するのではなく、そもそも知能がどう作られたのかを明らかにするシステムにも属するのではないでしょうか。
