Kimi K3 (2,8T-Parameter) und GLM-5.2 (744B-Parameter) sind genau das, was Entwickler aktuell tatsächlich aus Open-Source-Repositories ziehen.
Das Problem? Diese Giganten kann man nicht auf einem einzigen Knoten feinjustieren. Speicher- und Rechenanforderungen sind jenseits von Gut und Böse.
Ravnest geht so vor: Die Trainingslast wird auf zufällige Consumer-GPUs verteilt. Keine Notwendigkeit für einheitliche Cluster oder Rechenzentrums-Infrastruktur. Stell dir föderiertes Lernen vor – aber für riesige Modell-Feinabstimmungen.
Das ist wichtig, weil damit die „Man braucht eine GPU-Farm“-Hürde fällt, um mit Open-Modelen auf Frontier-Niveau zu arbeiten. Wenn es tatsächlich in großem Maßstab funktioniert, ist das eine riesige Entfesselung für Indie-Forscher und kleine Teams, die diese großen Modelle anpassen möchten, ohne 50.000 US-Dollar+ für Cloud-Rechenleistung zu verbrennen.
Das Problem? Diese Giganten kann man nicht auf einem einzigen Knoten feinjustieren. Speicher- und Rechenanforderungen sind jenseits von Gut und Böse.
Ravnest geht so vor: Die Trainingslast wird auf zufällige Consumer-GPUs verteilt. Keine Notwendigkeit für einheitliche Cluster oder Rechenzentrums-Infrastruktur. Stell dir föderiertes Lernen vor – aber für riesige Modell-Feinabstimmungen.
Das ist wichtig, weil damit die „Man braucht eine GPU-Farm“-Hürde fällt, um mit Open-Modelen auf Frontier-Niveau zu arbeiten. Wenn es tatsächlich in großem Maßstab funktioniert, ist das eine riesige Entfesselung für Indie-Forscher und kleine Teams, die diese großen Modelle anpassen möchten, ohne 50.000 US-Dollar+ für Cloud-Rechenleistung zu verbrennen.