先週、甥っ子が宿題アプリが先生がその場で解けなかった問題の答えを「知っている」理由を尋ねてきた。サーバーやデータについて中途半端な答えを返したら、彼はそれで納得したようだった。でも、私にとっては何も解決していなかった。実際、その答えがどこから来たのかを説明できないことに気づいた — 本当に、私たちが「クラウド」が考えているという快適なフィクションを超えて。知性がどこにあるのかを尋ねることをやめてしまったどこかで。今では、AIに常に質問をしているが、モデルをホスティングしているのは誰か、推論を実行したのは誰か、出力が何かと照合できるかどうかを尋ねることはめったにない。私たちが知らないことが大丈夫だと決めたのはいつなのか、ずっと考えている。私を悩ませるのは、透明性が信頼のデフォルトの質感になったことの速さだ — インターフェースがスムーズだから答えを信じるのであって、誰もそれを検証できるわけではないからだ。
ここで、OpenGradientのようなものが私にとって興味深くなるのは、製品としてではなく、構造的に作られた質問としてだ。知性を生成して出荷するだけでなく、調整、ホスティング、検証が必要なものとして扱う。それはモデルの中ではなく、その下に位置している — 物事を知っていると主張する別の声ではなく、検証のためのインフラだ。
しかし、検証とスケールが本当に同じ未来を求めているのか、私は完全には納得していない。システムがオープンになるほど、所有権を定義するのが難しくなる。ホスティングが分散化するほど、信頼が行っていた仕事をするためのインセンティブが増える。AIが正確かどうかを尋ねるとき、私たちは間違った質問をしているのかもしれない。本当の質問は、誰かが検証できるかどうかだ。
より深い問題は、私たちがこの規模の知性に対して信頼を構築したことがなかったことかもしれない — 自分自身を検証するように求められたことのないシステムからそれを借りただけだ。私たちは、尋ねなかったことで何を失ったのかを理解し始めたばかりだ。#opg $OPG @OpenGradient