ある中国企業は、新モデルで利用コストを7割削減したという。料金表を広げてみると、100万トークンあたりの単価は半分に下がっただけ。残りの2割は、キャッシュの項目に隠れている。
10月19日、MiniMaxがM3.1 Flashをリリースした。4,280億パラメータの混合エキスパート構造で、一度に呼び起こすのは230億だけ。コンテキストは100万トークンで、画像と動画をそのまま扱える。これらはすべて同社の発表で、外部ではまだ誰も再現していない。
料金表のほうは、はっきり書いてある。入力は100万トークンあたり0.15ドル。出力は0.6ドル。キャッシュから読み込む入力は0.015ドル。前世代のM3は0.3ドルと1.2ドルだった。単価はそれぞれ半分になった。
公式発表には、コストが7割下がったとある。残りの20ポイントは、価格には含まれていない。ひとつも。
半晩ずっと考えていた。0.15ドルと0.015ドル、10倍の差がある。どちらもドルだ。この差はかなり大きい。agentを動かしたことがある人なら誰でも知っている。1回のタスクで本当にコストがかさむのは、毎回あらためて投入しなければならないコンテキストだ。コードベース、ツールの定義、最初の十数ステップのログ。何度も何度も読み込ませる。文字ひとつ変わっていないのに、通常料金を払う。
キャッシュ料金は、それを別枠に切り分けて、10分の1の料金にする。だから総額が下がる。単価が5割下がり、総額が7割下がる。どちらの数字も正しいが、そもそも同じことを言っていない。別の話だ。
メーカーが7割削減と発表したのは、嘘ではない。それを読んだ人が、全体的に安くなったと受け取ると問題が起きる。安くなったのは単価で、節約できたのは繰り返しの分だ。
イーサリアムも何年も前に同じことをした。2019年のイスタンブールアップグレードでは、1回の取引に含まれるデータの1バイトあたりの料金を、68 gasから16 gasに引き下げた。理由は単純だ。この部分のバイト列は永久に保存する必要があるが、すべてのノードが毎回実行する必要はない。2024年のカンクンアップグレードでは、ロールアップのデータ用に専用の通り道を設けた。1つのblobは128 KB。手数料は実行gasとは別に計算され、独自に上がったり下がったりする。同じバイト列でも2つの枠に分かれ、料金に数十倍の差がつくことがある。
一連の流れの中で、安くなったと叫ぶ人はいなかった。コストが何割下がったとも言わなかった。変えたのは、料金計算の基準だけだ。効果は同じ。それだけのことだ。
では、この7割はどうやって節約できたのか？
実のところ、agentの利用場面で繰り返し読み込まれる部分を見つけて、そこに1割の料金を設定しただけだ。自分の業務のどの部分が繰り返しなのかを見分けられる人は、その割引を受けられる。見分けられない人は、通常料金を払う。1円たりとも変わらない。そういうことだ。
その結果、同社は公式発表で、1タスクあたりのコストは5セント未満だと書ける。トークン単位で売れば、顧客は電卓を使って計算する。タスク単位で売れば、顧客は比較できない。同社が自分で実施した152問の評価では、請求額は111ドル。この数字はつじつまが合う。それ以外の数字は、誰も確かめようとしない。
まだ不明な点もいくつかある。重みは23日に公開するとしているが、ライセンスについては一言もない。ベンチマークの結果はすべて自己申告で、第三者による再現はない。DeepSWEでは73.7で、DeepSeekのV4.1 Flashの74.2より0.5ポイント低い。ターミナルテストでは38.1で、Opus 5のほうが13.7ポイント高い。これらはすべて同社自身が表に載せている。隠してはいない。
もうひとつ、推論はオフにできない。簡単な質問でも、まず一度考えなければならない。節約したお金の中には、別の請求が隠れている。誰が払うのか？まだはっきりしていない。
agentを動かしているなら、まず単価ばかり見ないことだ。毎回、変わっていないものをどれだけコンテキストに詰め込んでいるか、確認してみてほしい。削れるのはその部分だ。
その部分の費用は、ずっと帳簿に載っている。
$BTC $ARB $TAO
#AI #大模型 #以太坊 #比特币 #コスト削減
10月19日、MiniMaxがM3.1 Flashをリリースした。4,280億パラメータの混合エキスパート構造で、一度に呼び起こすのは230億だけ。コンテキストは100万トークンで、画像と動画をそのまま扱える。これらはすべて同社の発表で、外部ではまだ誰も再現していない。
料金表のほうは、はっきり書いてある。入力は100万トークンあたり0.15ドル。出力は0.6ドル。キャッシュから読み込む入力は0.015ドル。前世代のM3は0.3ドルと1.2ドルだった。単価はそれぞれ半分になった。
公式発表には、コストが7割下がったとある。残りの20ポイントは、価格には含まれていない。ひとつも。
半晩ずっと考えていた。0.15ドルと0.015ドル、10倍の差がある。どちらもドルだ。この差はかなり大きい。agentを動かしたことがある人なら誰でも知っている。1回のタスクで本当にコストがかさむのは、毎回あらためて投入しなければならないコンテキストだ。コードベース、ツールの定義、最初の十数ステップのログ。何度も何度も読み込ませる。文字ひとつ変わっていないのに、通常料金を払う。
キャッシュ料金は、それを別枠に切り分けて、10分の1の料金にする。だから総額が下がる。単価が5割下がり、総額が7割下がる。どちらの数字も正しいが、そもそも同じことを言っていない。別の話だ。
メーカーが7割削減と発表したのは、嘘ではない。それを読んだ人が、全体的に安くなったと受け取ると問題が起きる。安くなったのは単価で、節約できたのは繰り返しの分だ。
イーサリアムも何年も前に同じことをした。2019年のイスタンブールアップグレードでは、1回の取引に含まれるデータの1バイトあたりの料金を、68 gasから16 gasに引き下げた。理由は単純だ。この部分のバイト列は永久に保存する必要があるが、すべてのノードが毎回実行する必要はない。2024年のカンクンアップグレードでは、ロールアップのデータ用に専用の通り道を設けた。1つのblobは128 KB。手数料は実行gasとは別に計算され、独自に上がったり下がったりする。同じバイト列でも2つの枠に分かれ、料金に数十倍の差がつくことがある。
一連の流れの中で、安くなったと叫ぶ人はいなかった。コストが何割下がったとも言わなかった。変えたのは、料金計算の基準だけだ。効果は同じ。それだけのことだ。
では、この7割はどうやって節約できたのか？
実のところ、agentの利用場面で繰り返し読み込まれる部分を見つけて、そこに1割の料金を設定しただけだ。自分の業務のどの部分が繰り返しなのかを見分けられる人は、その割引を受けられる。見分けられない人は、通常料金を払う。1円たりとも変わらない。そういうことだ。
その結果、同社は公式発表で、1タスクあたりのコストは5セント未満だと書ける。トークン単位で売れば、顧客は電卓を使って計算する。タスク単位で売れば、顧客は比較できない。同社が自分で実施した152問の評価では、請求額は111ドル。この数字はつじつまが合う。それ以外の数字は、誰も確かめようとしない。
まだ不明な点もいくつかある。重みは23日に公開するとしているが、ライセンスについては一言もない。ベンチマークの結果はすべて自己申告で、第三者による再現はない。DeepSWEでは73.7で、DeepSeekのV4.1 Flashの74.2より0.5ポイント低い。ターミナルテストでは38.1で、Opus 5のほうが13.7ポイント高い。これらはすべて同社自身が表に載せている。隠してはいない。
もうひとつ、推論はオフにできない。簡単な質問でも、まず一度考えなければならない。節約したお金の中には、別の請求が隠れている。誰が払うのか？まだはっきりしていない。
agentを動かしているなら、まず単価ばかり見ないことだ。毎回、変わっていないものをどれだけコンテキストに詰め込んでいるか、確認してみてほしい。削れるのはその部分だ。
その部分の費用は、ずっと帳簿に載っている。
$BTC $ARB $TAO
#AI #大模型 #以太坊 #比特币 #コスト削減