Tetherは、小型モデル向けのSTEM合成データ一式を提供しています。99.45%は答えを抽出できる割合で、正答率ではありません。

9月23日、Tether AI ResearchはQVAC Genesis IIIを公開しました。1914.3億Token、約1.596億件のドキュメントを収録し、19の理工分野をカバー。難易度は高校レベルからプロ級まで。進め方は、2025年10月のGenesis Iと12月のGenesis IIを踏襲しています。間違えたものは訂正の形で記述し、正解したものは各選択肢について「なぜ正しいのか/なぜ誤りなのか」を書きます。訓練対象は、ノートPC、スマホ、ローカルサーバー上で動かせる小型モデルで、重点は解答手順の説明です。

ゼロから訓練する17億パラメータモデルのうち、選択肢レベルのデータでMMLU STEM上の有効回答率は99.45%。同等のToken規模のCosmopedia-v2では、ARC-Easy、ARC-Challenge、MMLU STEMの正答率がそれぞれ51.85、42.71、30.19で、28.57、21.35、15.03ポイント上回っています。

データはCC-BY-NC 4.0で公開され、非商用利用のみ可能です。論文はCOLM 2026に採択されました。