AIの最大の課題は、知能ではないかもしれません。
私たちはモデルのサイズ、推論能力、計算力について議論するのに多くの時間を費やしているため、より深い前提をめったに問いません。それは「もし知能が豊富になるとしたら？」ということです。
あらゆる企業、クリエイター、アプリケーションが強力なAIにアクセスできるなら、知能は希少な資源ではなくなります。
信頼は違います。
AIがスケールするにつれて、生成される情報の量は、それを検証する能力よりも速く増えていきます。コンテンツが増えるほど不確実性も増える。答えが増えるほど、その答えがどこから来たのかについての問いも増える。
この二次的な影響は見落とされがちです。
知能が安くなると、検証は高くなる。
市場や企業、そしてユーザーは、情報を探す時間を減らし、それを検証する時間にもっと使うようになるかもしれません。ボトルネックは生成から確信へと移ります。
だから、@OpenGradient のようなプロジェクトに私は惹かれます。
より賢いAIを約束しているからではありません。知能を生み出すことと同じくらい、それを証明し、追跡し、検証することが重要になる未来を探っているからです。
最も価値のあるAIネットワークは、最も多くの知識を生成するものではないかもしれません。
知識を「信じられるものにする」ものかもしれない。
将来、AIに希少性の問題があるとすれば、それは知能そのものではないかもしれません。
それは「確実性」かもしれないのです。

#opg $OPG @OpenGradient