Tether放的是一套給小模型用的STEM合成數據。99.45%是能抽出答案,不是答對率。
9月23日,Tether AI Research發佈QVAC Genesis III,1914.3億Token、約1.596億份文檔,覆蓋19個理工領域,難度從高中到專業級。路線接着2025年10月的Genesis I和12月的Genesis II。學生做錯的,寫成糾錯;做對的,寫成每個選項爲什麼對、爲什麼錯。要訓的是能在筆記本、手機和本地服務器上跑的小模型,重點是講解題路徑。
從零訓練的17億參數模型裏,選項級數據在MMLU STEM上的有效回答率是99.45%。完整語料對上Token規模相當的Cosmopedia-v2,ARC-Easy、ARC-Challenge、MMLU STEM的正確率分別到51.85、42.71、30.19,高出28.57、21.35、15.03個百分點。
數據按CC-BY-NC 4.0放出,非商業可用。論文已被COLM 2026接收。
9月23日,Tether AI Research發佈QVAC Genesis III,1914.3億Token、約1.596億份文檔,覆蓋19個理工領域,難度從高中到專業級。路線接着2025年10月的Genesis I和12月的Genesis II。學生做錯的,寫成糾錯;做對的,寫成每個選項爲什麼對、爲什麼錯。要訓的是能在筆記本、手機和本地服務器上跑的小模型,重點是講解題路徑。
從零訓練的17億參數模型裏,選項級數據在MMLU STEM上的有效回答率是99.45%。完整語料對上Token規模相當的Cosmopedia-v2,ARC-Easy、ARC-Challenge、MMLU STEM的正確率分別到51.85、42.71、30.19,高出28.57、21.35、15.03個百分點。
數據按CC-BY-NC 4.0放出,非商業可用。論文已被COLM 2026接收。

