最近、アルゴリズムをやってる友達と話してたら、彼が言ったことにしばらく唖然としてたんだ。今のAIモデルは、内側が全部二次流通品でいっぱいだって。どういう意味かというと、今市場に出回っている大規模モデルは、トレーニングデータがネットから七転八倒で集められていて、掲示板から来たものもあれば、マーケティングアカウントからのものも、さらには別のAIが生成した二次流通品まであるってこと。友達の言葉を借りると、AIに他人が噛んだ蒸しパンを食わせているようなもんだ。訓練されたものが無茶苦茶なことを言わないわけがない。

2024年にその弁護士がAIに泣かされた事件はほんの氷山の一角に過ぎない。実際に怖いのは、AIが言うどの言葉が信頼できるのか、どれが作り話なのか全く分からないってこと。

だから今、AIのトレンドを見ている中で、私が一番気にしているのは、どのモデルがスコアが高いかじゃなくて、誰がこの問題が本当に解決されているかを見極めているかってこと。

@OpenLedger というプロジェクトはこの痛点を突いている。彼らは一つの帰属証明システムを作って、各データに出所ラベルを付けて、AIが使ったら$OPEN トークンの報酬を出す。技術的にはOpenLoRAフレームワークを使って、単一GPUで大量のモデルを走らせることができ、ハードルがかなり下がった。基盤にはEigenDAの二重構造を使っていて、ランダムサンプリング検証で、すべてのデータを厳密にチェックするのではなく、サンプリングしてチェックし、間違いがあれば罰を与える。論理的にはかなりスムーズだ。

もちろんリスクもある。インセンティブが大きくなるほど、抜け道を探す人も増えるし、ゴミデータや偽アカウントの攻撃にも目を光らせなければならない。

老舗のトレーダーとして、私はまず観察する。AIには信頼できる真実が欠けていて、このトレンドは注目に値するが、入る前にその検証メカニズムが実際の環境に耐えられるかを見極めないといけない。#OpenLedger