週末に、先月うまく走った一連のプロンプトをそのまま某の集中型大規模モデルに流したら、出てきた口調が前回と明らかに違いました。設定を開いて初めて、プラットフォームのデフォルトで新バージョンが接続されていると知りました。変更はアップデート履歴の中に1行の小さな記載だけ。私は振り返って、@OpenGradient の検証AI推論パネルを開き、この“信頼AIから検証AIへの静かなモデル差し替え”のような抜け道の前に、どんな対抗策があるのかを確かめたくなりました。$TAC
私は3つの異なるタスクを選び、OpenGradient上でそれぞれ4ラウンドずつ、計12回走らせました。毎回、目的のモデルのハッシュ、ノードが実際に読み込んだ指紋、能力ルーティング用ミドルウェアのバージョンルート、Verification Layerの領収書(レシート)を表に落として行ごとに照合しました。12回のうち、ノードが微調整用の重みを1つでもすり替えれば、レシートの指紋と私が要求したハッシュは即座に一致しなくなり、ミドルウェアはその場でマッチングを拒否します。リンクが先に進めず、成立しません。
ChatGPTがモデルをすり替えるという“騙された”という感情に、大衆の議論はほぼ集中しています。OpenGradientが本当にやっているのは、より冷静な点です。つまり、あなたがクリックしたモデルが、利用規約ではなく協定(プロトコル)レベルの強い制約へ移されているかどうかを“走らせて検査する”こと。モデル指紋はVerification Layer上で公開にアンカー(固定)され、能力ルーティング用ミドルウェアはプラットフォームのラベルではなく指紋でマッチングします。どんな静かな差し替えであっても、レシート上に否認できない痕跡が残ります。モデルはブラックボックスではなく、いつでも照合可能なチェーン上のオブジェクトです。$RAVE
指標も変える必要があります。私はOpenGradientが何件のモデルバージョンを“落とした”かを見ません。見るのは、反コンセンサスのデータです。つまり、毎日届くレシートのうち、モデル指紋が要求指紋と一致し、かつ第三者が独立して再計算できる割合。前者は“豊富さ(バリエーション)”を測り、後者は、この差し替え防止の仕組みが実際のトラフィックの下で耐えられるかを測ります。
もし$OPG が、単に1回の呼び出しのマッチング手数料を担うだけなら、これは呼び出し課金の代替トークンのようなものです。しかし、将来モデルバージョンの登録(备案)、指紋アンカー、静かな差し替えの没収(ペナルティ)、レシートの再計算の賞金、クロスバージョン呼び出しの清算までもがそれを中心に閉ループを形成するのなら、それはもはや“課金トークン”ではありません。モデル身元ネットワークのバージョンクレジット資産です。
結論は急ぎません。静かなモデル差し替えは集中型プラットフォームなら1行の設定変更でできますが、チェーン上の構造で抑止するには時間がかかります。私は引き続き、OpenGradientのメインネットと、次に接続側が提出してくるサンプルを見続けます。#opg
中心化平台偷偷更换模型
100%
可是 opg 的调用费贵啊
0%
1 投票 • 投票は終了しました