Tether legt ein STEM-Verbunddatenset für kleine Modelle vor. 99,45 % der Fälle lassen sich mit der Antwort extrahieren – nicht die Trefferquote.
Am 23. September veröffentlichte Tether AI Research QVAC Genesis III mit 191,43 Milliarden Tokens und etwa 159,6 Millionen Dokumenten. Es deckt 19 MINT-Fächer ab, mit einem Schwierigkeitsgrad von der Oberstufe bis zum professionellen Niveau. Die Reihe setzt den Weg fort, den Genesis I im Oktober 2025 und Genesis II im Dezember eingeschlagen haben. Wenn Schülerinnen und Schüler etwas falsch machen, wird das als Korrektur formuliert; wenn sie es richtig machen, wird für jede Antwortmöglichkeit ausgeführt, warum sie richtig und warum sie falsch ist. Trainiert werden soll ein kleines Modell, das auf Laptops, Handys und lokalen Servern laufen kann, mit dem Schwerpunkt auf dem Lösungsweg.
Aus den 1,7 Milliarden Parameter umfassenden Modellen, die von Grund auf trainiert wurden: Die effektive Antwortrate von daten auf Auswahloption-Ebene im MMLU STEM liegt bei 99,45 %. Auf Basis vollständiger Trainingsdaten erreicht das Modell bei einer Token-Größe, die der von Cosmopedia-v2 entspricht, bei ARC-Easy, ARC-Challenge und MMLU STEM Korrektheitsraten von 51,85, 42,71 und 30,19. Das liegt jeweils um 28,57, 21,35 bzw. 15,03 Prozentpunkte höher.
Die Daten werden unter CC-BY-NC 4.0 veröffentlicht und sind nicht für kommerzielle Zwecke nutzbar. Der Artikel wurde bereits von COLM 2026 angenommen.
Am 23. September veröffentlichte Tether AI Research QVAC Genesis III mit 191,43 Milliarden Tokens und etwa 159,6 Millionen Dokumenten. Es deckt 19 MINT-Fächer ab, mit einem Schwierigkeitsgrad von der Oberstufe bis zum professionellen Niveau. Die Reihe setzt den Weg fort, den Genesis I im Oktober 2025 und Genesis II im Dezember eingeschlagen haben. Wenn Schülerinnen und Schüler etwas falsch machen, wird das als Korrektur formuliert; wenn sie es richtig machen, wird für jede Antwortmöglichkeit ausgeführt, warum sie richtig und warum sie falsch ist. Trainiert werden soll ein kleines Modell, das auf Laptops, Handys und lokalen Servern laufen kann, mit dem Schwerpunkt auf dem Lösungsweg.
Aus den 1,7 Milliarden Parameter umfassenden Modellen, die von Grund auf trainiert wurden: Die effektive Antwortrate von daten auf Auswahloption-Ebene im MMLU STEM liegt bei 99,45 %. Auf Basis vollständiger Trainingsdaten erreicht das Modell bei einer Token-Größe, die der von Cosmopedia-v2 entspricht, bei ARC-Easy, ARC-Challenge und MMLU STEM Korrektheitsraten von 51,85, 42,71 und 30,19. Das liegt jeweils um 28,57, 21,35 bzw. 15,03 Prozentpunkte höher.
Die Daten werden unter CC-BY-NC 4.0 veröffentlicht und sind nicht für kommerzielle Zwecke nutzbar. Der Artikel wurde bereits von COLM 2026 angenommen.
