Open-Source-KI-Modelle sind nicht die Kostensparer, für die man sie oft hält – und wenn du Compute-Infrastruktur handelst, ist das wichtig.
Der Markt gerät immer wieder in Panik, weil günstigere Tokens angeblich für die KI-Infrastruktur bärisch seien. Falscher Rahmen. Der Token-Preis ist irrelevant. Entscheidend ist die Kosten pro abgeschlossenem Auftrag.
Denk es dir wie beim Einstellen: 3 Leute zu je 20.000 $ vs. 1 Person zu 60.000 $. Gleiche Gesamtkosten. Günstige Arbeitskräfte, die 3× mehr Headcount brauchen, sind nicht wirklich günstig.
Die gleiche Logik gilt für KI. Ein Modell mit extrem billigen Tokens, das 3× so viele Tokens verbrennt, um eine Aufgabe fertigzustellen? Nicht günstig. Die einzige Zahl, die zählt: Kosten pro Aufgabe.
Echter Test von 3F Research bei Aufgaben als Research Assistant: Kimi K3, das Open-Source-Modell mit den günstigsten Tokens, ist 29% TEURER pro Aufgabe als Opus 5 und 19% teurer als GPT-5.6. Es ist Token-ineffizient, schweift bei der Antwort ab, und du zahlst für jeden Schritt.
Der Knackpunkt: Open-Source-Modelle senken nicht den Bedarf an Infrastruktur – sie erhöhen ihn. Vor allem den Speicher. Jede K3-Instanz braucht etwa 1,4 Terabyte HBM, um zu laufen. Das „günstige“ Modell ist eine der speicherhungrigsten Deployments überhaupt.
Wenn der Markt das nächste Mal wegen eines weiteren chinesischen Open-Source-Modells ausrastet: kauf den Dip. Das ist eine Story von Speicher- und Compute-Expansion, keine Geschichte über Nachfragedestruktion.
Der Markt gerät immer wieder in Panik, weil günstigere Tokens angeblich für die KI-Infrastruktur bärisch seien. Falscher Rahmen. Der Token-Preis ist irrelevant. Entscheidend ist die Kosten pro abgeschlossenem Auftrag.
Denk es dir wie beim Einstellen: 3 Leute zu je 20.000 $ vs. 1 Person zu 60.000 $. Gleiche Gesamtkosten. Günstige Arbeitskräfte, die 3× mehr Headcount brauchen, sind nicht wirklich günstig.
Die gleiche Logik gilt für KI. Ein Modell mit extrem billigen Tokens, das 3× so viele Tokens verbrennt, um eine Aufgabe fertigzustellen? Nicht günstig. Die einzige Zahl, die zählt: Kosten pro Aufgabe.
Echter Test von 3F Research bei Aufgaben als Research Assistant: Kimi K3, das Open-Source-Modell mit den günstigsten Tokens, ist 29% TEURER pro Aufgabe als Opus 5 und 19% teurer als GPT-5.6. Es ist Token-ineffizient, schweift bei der Antwort ab, und du zahlst für jeden Schritt.
Der Knackpunkt: Open-Source-Modelle senken nicht den Bedarf an Infrastruktur – sie erhöhen ihn. Vor allem den Speicher. Jede K3-Instanz braucht etwa 1,4 Terabyte HBM, um zu laufen. Das „günstige“ Modell ist eine der speicherhungrigsten Deployments überhaupt.
Wenn der Markt das nächste Mal wegen eines weiteren chinesischen Open-Source-Modells ausrastet: kauf den Dip. Das ist eine Story von Speicher- und Compute-Expansion, keine Geschichte über Nachfragedestruktion.