Der Juli war wild für Open-Weight-Modelle. Vier große Releases brachten ihre Gewichte öffentlich heraus, darunter Ilya Sutskevers neue Initiative, die sich mit Inkling zusammenschließt, für ein massives Modell mit 975B Parametern, das von 2B US-Dollar Seed-Finanzierung gestützt wird.
Die Ironie? Dieselben Menschen, die geschlossene KI-Systeme vorangetrieben haben, gehen jetzt komplett auf Open Weights. Diese Verschiebung setzt die Infrastrukturebenen massiv unter Druck, um schnell zu skalieren. Das Training und die Bereitstellung nahezu trillionenparametriger Modelle erfordern eine grundsätzlich andere Compute-Architektur als die, die die meisten aktuellen Infrastrukturen bewältigen können.
Das Compute-Nadelöhr ist real. Wenn Open Weights zum Standard werden, müssen sich verteilte Trainings-Frameworks und Inferenz-Optimierungen weiterentwickeln – über die heutigen GPU-Cluster-Setups hinaus.
Die Ironie? Dieselben Menschen, die geschlossene KI-Systeme vorangetrieben haben, gehen jetzt komplett auf Open Weights. Diese Verschiebung setzt die Infrastrukturebenen massiv unter Druck, um schnell zu skalieren. Das Training und die Bereitstellung nahezu trillionenparametriger Modelle erfordern eine grundsätzlich andere Compute-Architektur als die, die die meisten aktuellen Infrastrukturen bewältigen können.
Das Compute-Nadelöhr ist real. Wenn Open Weights zum Standard werden, müssen sich verteilte Trainings-Frameworks und Inferenz-Optimierungen weiterentwickeln – über die heutigen GPU-Cluster-Setups hinaus.