最近、ある考えが頭に引っかかっています。
今日起こったことからではなく、数年後に起こると簡単に想像できることからです。
今、検索エンジンを使うのと同じように、AIを常に、静かに使っている自分を思い描いています。瞬間的には小さく見える決断でも、時間が経つにつれて積み重なります。
@OpenGradient
ある日、AIシステムにマーケットトレンドを分析するように頼みます。
その答えはシャープで、理由付けは説得力があります。すべてが正常に見えます。
それがまさに私を不安にさせる要因です。
長い間、私はAIへの信頼はその出力の質から来るものだと思っていました。答えが役立つものであれば、次に進みました。
$OPG

しかし最近、その習慣に疑問を持ち始めました。
良い出力と信頼できるモデルは同じではないからです。
私は、2つのシステムがほぼ同じ反応を生成する未来を想像できます。同じ結論。同じ自信。同じ洗練された言葉。
しかし、一方は私が使用するつもりだったモデルから来ています。
もう一方は、途中で改変された、操作された、あるいは静かに置き換えられたものから来ています。
ユーザーとして、私たちは出力に自然に焦点を当てます。なぜなら、それが私たちが見るものだからです。
インフラはバックグラウンドで動作します。
検証はバックグラウンドで動作します。
信頼はバックグラウンドで動作します。
AIインフラについて深く考えれば考えるほど、出力検証は短期的な質問に答えるように感じます："この反応は意味がありましたか？"
モデル検証ははるかに大きな質問に答えます："実際にこれを生み出したのは誰ですか？"
この区別が今日微妙に感じられるかもしれません。
AIが重要な決定に責任を持つようになるとき、微妙に感じるとは限らないと私は確信しています。#opg #Binance