#opg $OPG 数日前、私はさまざまなAIツールの回答を比較していました。
そのほとんどは、速く、自信に満ちていて、文章もよく書かれていました。
最初は、それで十分だと思っていました。
でも、ふと次のような単純な疑問が浮かびました。
「この出力が本物だと、どうやって分かるのだろう？」
同じ数学の問題を解く2人の学生を想像してください。
1人目は、ただ最終答案を書くだけです。
2人目は、答えを書き、そこに至るまでの計算のすべてを示します。
答えがどちらも正しいとしても、あなたはどちらをより信じますか？
まさに今の私は、従来型AIと検証可能なAIをそういうふうに捉えています。
従来型AIは、通常そのまま出力を返します。
検証可能なAIは、出力に加えて、計算が主張どおり実際に行われたという証拠を提示します。
AIが研究、金融、ヘルスケア、ビジネスの意思決定に組み込まれていくにつれ、この違いは、多くの人が思っている以上に重要になってきます。
スピードは役に立ちます。
正確さは価値があります。
しかし、証明が信頼を築きます。
そのため、私はOpenGradientに興味を持っています。
推論をブラックボックスとして扱うのではなく、OpenGradientはAI推論を生成するだけでなく、その推論が主張どおりに実行されたことの暗号学的証明も提供します。
これにより会話は次のように変わります。
「AIを信じろ。」
から
「AIを検証せよ。」
未来は、最速または最も賢いAIだけが独占するものではないと私は考えています。
独立して検証できる結果を出すAIシステムこそが、未来を担います。
次のAIの時代には、信頼は自信からではなく、証明から生まれるからです。
#OpenGradient #VerifiableAI #AI #opg