金融、医療、そしてビジネス上の意思決定には、すでにAIが活用されています。
そして現時点では、その部分はもう驚くようなことではなくなっています。

それでも少し気になるのは、私たちがどれほど多くを、全体像を見ないまま受け入れてしまっているかです。

出力は得られますが、その背後で実際に何が起きたのかを見ることは、ほとんどありません。

簡単に言うと、よく分からない点がいくつかあります：

どのシステム、またはモデルがその結果を生み出したのか

その意思決定が実際にどのように組み立てられたのか

入力がプロセスの間ずっと、まったく同じ状態で保たれていたのか

多くの場合、日常の用途ではうまく機能するので、私たちはそれを疑いません。

しかしAIが、お金、健康、あるいは重大な現実世界の意思決定に影響し始めた瞬間、期待はまったく変わります。もはや信頼は当然のものとして仮定できません。

そこで出てくるのが「検証可能なAI」という考え方で、OpenGradientのようなプラットフォームが、この方向へ前進させようとしています。

狙いは、答えを生成するシステムを作るだけではありません。そうした答えが、信頼できる形で、透明性をもって、実際に検証できるシステムを作ることです。

そして、おそらくより大きな転換はシンプルです：
AIは、どれだけ能力が高いかだけで評価されるのではなく、私たちがそれによって生み出されたものをどれだけ実際に信頼し、検証できるかでも評価されるようになるのです。
$@OpenGradient #OPG $OPG

投票：
今後のAIシステムで、より重要なのはどれですか？