検証なしのopAIが、HTTPS以前のウェブサイトみたいに感じられるようになってきました。

壊れてはいない。使えないわけでもない。ただ、人々がやがて受け入れなくなっていった「何か」が欠けているだけです。

最近OpenGradientを眺めていたとき、ある数字がずっと気になって離れませんでした。1か月で処理された156,461件のプライベート推論です。数字そのものよりも、続いてきた問いのほうが興味深かった。

それらの出力のうち、どれだけを誰かが独立して検証できるでしょうか？
私は、今私たちがどのように多くのAIシステムとやり取りしているかを考え続けました。回答が返ってくる。必要なら信頼度スコア。運がよければ出典も。そこで私たちは、それを信用するかどうかを決めます。けれど、その信頼の多くは「証拠」ではなく「評判」に由来しています。

それは一時的なものに思えます。

推論中に何が起きたかの根拠を開示するようなシステムを使えば使うほど、古いモデルのほうが妙に古臭く感じられてきました。突然すべての結果が完璧になったからではありません。いくつかの応答は依然として平均的です。たぶん間違っているものもあります。
違いは「可視性」でした。

数年前、HTTPSなしで個人情報を求めるウェブサイトは普通でした。それが警告サインになりました。ブラウザが、検証の欠如を誰もが見つけられるように訓練したのです。

AIも同様の道をたどると思います。

今年ではないかもしれません。来年ではないかもしれません。

でも2030年までには、出どころを検証する方法がなく、それがどのように作られたのか、また改変されたのかどうかもわからない重要なAI生成結果を得ることが、妙に時代遅れに感じられるようになっているかもしれません。

私がまだ確信できないのは、その変化をユーザーが先に求めるのか、それとも、インフラが先にそこへ到達してしまうのか、という点です。

@OpenGradient $OPG #OPG

2030年に、AIの応答を評価するうえで最も重要になるのは何でしょうか？