AIの未来の顧客は人間ではないかもしれません。

数年前、私はそのアイデアを軽視していたかもしれません。私たちはまだAIを人間のために作られた道具だと考えています。私たちは質問をし、AIが答えを返し、最終的な決定は人間が下します。

しかし、それが常にそうであるとは限らないと私は思います。

AIシステムがますます能力を向上させるにつれて、他のAIシステムとのインタラクションが増えていきます。あるモデルが情報を生成し、別のモデルがそれを分析し、また別のモデルが行動を起こすかもしれません。その多くは誰もすべてのステップを確認することなく行われる可能性があります。

私が興味を持っているのは、AIに関するほとんどの会話が、より大きなモデル、より良いベンチマーク、そして低コストにまだ集中しているということです。それらの要素は明らかに重要です。

しかし、私は別の質問に戻ってきます。

知性が一般的になると何が起こるのでしょうか？

今日、私たちは出力によってAIを判断します。なぜなら人間がまだ関与しているからです。私たちは一時停止し、物事を疑い、第二の意見を求めることができます。

機械はそうはしません。

そして、AIシステムがますます他のAIシステムの出力に依存するようになると、すべてが期待通りに機能したと単純に信頼するだけでは不十分かもしれません。

それが、@OpenGradient OpenGradientが私の関心を引いた一因です。

次のAIの課題は、よりスマートなモデルを作ることではないかもしれません。

おそらく、それは単に仮定するのではなく、知性を検証できるシステムを構築することです。

OpenGradientの透明で検証可能なAI実行に対する焦点は、AIシステムがますます自律的になるにつれて、ますます関連性を持つように感じます。

考えれば考えるほど、知性を生成することが今後の最も難しい問題ではないように感じます。

その知性が私たちの期待通りに振る舞ったかどうかを理解することが、同じくらい重要になるかもしれません。

もしそうなった場合、AIの背後にあるインフラは、モデル自体と同じくらい重要になる可能性があります。
#opg @OpenGradient $OPG

AIがますます自律的になるにつれて、何がより重要になるのでしょうか？