HN 今日ある「Kev」という小型モデルが登場。0.8Bから9Bの3段階で、直接通義千問3.5の上に載せて使う。目標は、家庭用GPUでトレーニングして、意思決定系モデルを動かせるようにすること。

モデルの重みは抱き合わせで公開されており、学習スクリプトや評価用データセットもまとめて用意されている。

この流れは暗号にとって追い風だ。小型モデルをローカルで動かし、$FET のようなプロキシ用プロトコルで小さな計算リソースのノードを作ろうとしているのも、同じ道筋にある。学習はもはや大手企業の数千枚のカードに行き詰まらず、一般の人の機材でも回せる。プロキシ用プロトコルにも実際の導入シーンができる。$NEAR もそれに連なる話で、サブネットの物語は今年ずっと「ローカル推論のブレイクスルー」を待っていた。

ただし問題は、9億パラメータは本当に足りるのか？実際の評価次第だ。オープンソースのモデルについて、私が特に気になるのは、パラメータの大きさそのものではなく、小さなタスクでクローズドなモデルの代わりになれるかどうかだ。

#开源AI #代理协议 #テクノロジー