100万トークン処理後も請求額は0ドル、オロス氏がJevについて語る

ゲルゲイ・オロス氏によると、新しい検索サイトで100万トークン超を処理した後、Jevの請求額は0ドルだった。
要点
ゲルゲイ・オロス氏は、新しい検索サイトで100万トークン超を処理した後、請求額が0ドルだったことを示した
オロス氏はXにこの数字を投稿し、Jevの料金は「数百万ではなく、数十億トークン単位」だと述べた。一方、OpenAIが公開している料金表では、入力トークンと出力トークンに別々の料金が設定されている。
検索は大量のトークンを消費する。プロンプト、検索取得の手順、ランキングのロジック、最終回答のすべてが積み重なる
より大規模なワークロード、安定したトラフィック、より難しいタスクでも、同じ採算性が成り立つかをJevは示す必要がある
Orosz氏はXに金額を投稿し、Jevの課金方式を「10億単位」と説明した。OpenAIが公開している料金では、入力トークンと出力トークンに別々の料金が設定されている。
Jevの料金設定が少額請求を、AI検索の料金をめぐる大きな論争に変える
0ドルのスクリーンショットは金額こそ小さいが、検索は大量のトークンを消費するため、AI検索製品の課題を突いている。プロンプト、検索取得の手順、ランキングのロジック、最終回答のすべてが積み重なる。
多くのチームは、モデルの品質が購入判断の一要素にすぎないことを学んできた。
より難しいのは、実際のユーザーが一日中クエリを送っても、ツールの低価格が維持されるかどうかだ。コストを低く抑えられるサービスなら、無料プランを提供し、試行錯誤にかかる費用を吸収し、値上げを先送りできるため、開発者は改善を重ねる余地を得られる。
Orosz氏の事例は、ほとんどのユーザーがモデルのコスト構造をどれほど意識していないかを浮き彫りにしている。
トークンは文章を細かく区切った単位であり、単語全体と同じではない。ベンダーは処理したトークンの総数に応じて課金する。目に見える費用なしに100万トークンを超えたということは、積極的な補助金、非常に低いトークン単価、大規模なキャッシュ利用、あるいは少量利用分を切り捨てる最低課金単位のいずれかを示唆している。
こちらもお読みください：AIハードウェアのスタートアップPositron、追加購入を約束する買い手を獲得
高額なプレミアムモデルの請求から、AI検索におけるJevの価格競争へ
短いクエリを数多く処理する製品では、利用量に応じてコストが膨らむことがある。
検索ツール、コーディング支援ツール、サポート用ボットは、テスト中は安価に見えても、利用が増えると高額になることがある。そのため開発者は、純粋な性能と同じくらい、コストの予測しやすさを重視する。
小さな単位ではなく10億トークン単位で課金するプロバイダーがあれば、チームの利益率に対する考え方も変わる。小規模な顧客はクエリごとに1セント未満の端数を削ることを気にしないかもしれないが、製品が大規模になると、そのわずかな差も急速に積み上がる。
料金設定は、ベンチマークや長いコンテキストウィンドウと並ぶ、製品の重要な指標になっている。
新たな競争の焦点は、機能を一つ追加するたびに予算項目が増えることなく、モデルを広く展開できるかどうかだ。個人開発者にとって、5ドルの予想外の請求はMicrosoftやGoogleの場合よりもはるかに重く、AI検索のコスト構造は個人開発者や小規模チームにとって特に重要となる。
Jevの料金設定に今後求められる実証
スクリーンショット一枚では結論は出ない。
より大規模なワークロード、安定したトラフィック、より難しいタスクでも同じコスト構造が成り立つかを、Jevは示さなければならない。低価格は、効率的な推論や検索取得・振り分けといったアーキテクチャ上の工夫によるものかもしれないし、長続きしない販促施策によるものかもしれない。
買い手は、Jevが効率性によって安いのか、異なる方法で処理を振り分けているのか、それともシェア獲得のために利益を削っているのかを知りたいはずだ。
トークン料金が安くても、回答の有用性が保たれなければ意味がない。検索システムがモデルと検索取得を組み合わせる場合、品質とのトレードオフが重要になる。
10億トークン単位の課金がAI検索の料金体系をどう変えるか
Jevが非常に大きなトークン単位で課金する一方、OpenAIや多くの競合がより小さな単位で料金を提示しているとすれば、100万トークンを超えても請求額が0ドルだったという開発者の事例は、Jevの従量計が一般的なAPI課金のように少量利用で動き始めるわけではない可能性を示している。
Orosz氏によると、Jevは100万トークン単位ではなく10億トークン単位で課金する。また、新しい検索サイトで100万トークンを超える利用があれば、LLMならすでに3～5ドルを請求していただろうと述べた。これで請求額が0.00ドルのままだった理由を説明できる。
小さなリクエストを数多く送る検索アプリでは、それぞれのリクエストを10億トークン単位のごく一部として扱えるため、チームはクエリごとに小銭を気にせず機能を試せる。今後注目すべきなのは、Jevのより詳細な料金表や導入事例だ。
それまでは、土曜日の投稿は、AI検索における次の競争の焦点がモデルの品質だけでなく、料金設定にもあることを示す指標となる。
投稿の中でOrosz氏は、その利用量ならLLMではすでに3～5ドルが請求されていたはずだと述べた。一方、Jevは100万トークン単位ではなく、10億トークン単位で課金する。この料金設定の詳細から、100万トークンを超えても請求額が0.00ドルのままだった理由がわかる。
次の記事：Supermicro、何千ものチャットのメモリを節約するソリューションを企業に提供