Sind 10²⁵ FLOPs noch immer die Grenze?
Ein von Anthropic verfasster Gesetzentwurf zur Sicherheit macht auf dem Capitol Hill die Runde. Einige seiner Ideen könnten sinnvoll sein, wenn sie auf tatsächliche Frontier-Unternehmen beschränkt wären. So wie er formuliert ist, wird er jedoch letztlich den Großteil des Silicon Valley erfassen und dem Startup-Ökosystem schaden.
Der Gesetzentwurf definiert „Frontier“ als jedes Modell, das mit 10²⁵ FLOPs trainiert wurde – dem EU-Standard von 2023. Bidens Executive Order, Kaliforniens SB 53 und New Yorks RAISE Act verwendeten den Wert 10²⁶ (zehnmal so viel). Die tatsächliche Grenze liegt heute bei 10²⁷ (z. B. GPT-6 Astra).
Berichten zufolge wurde Astra mit mehr als 100.000 Grace-Blackwell-GPUs trainiert. Ein 10²⁵-Modell lässt sich innerhalb von drei Monaten mit nur einigen Hundert GB300-Chips trainieren. Das ist 2026 kein Frontier-Modell.
Die Definition ist außerdem kumulativ: Sie addiert FLOPs aus Feinabstimmung, Reinforcement Learning oder anderen wesentlichen Änderungen. In der Praxis erfasst das fast alle relevanten Arbeiten nach dem Training – Arbeiten, die in Unternehmen zunehmend zum Alltag gehören.
In Unternehmen geht der Trend zu Tausenden kleineren, maßgeschneiderten Modellen für bestimmte Arbeitslasten. Von ihnen geht kein Frontier-Risiko aus. Sie als Frontier-Systeme einzustufen, würde der amerikanischen Wirtschaft hohe Compliance-Kosten auferlegen, ohne die Sicherheit zu verbessern.
Dario hat behauptet, Anthropic entwerfe Regeln, die Frontier-Unternehmen wie sein eigenes benachteiligen und kleineren Wettbewerbern Vorteile verschaffen. Diese Definition bewirkt das Gegenteil.
Ein veralteter Grenzwert aus dem Jahr 2023 begünstigt etablierte Unternehmen, die ihn bereits überschreiten und die Kosten tragen können. Er bremst das Ökosystem offener Modelle aus, das Anthropic die Preissetzungsmacht streitig macht.
Die Grenze verschiebt sich ständig. Jede Definition, die Risiken erfassen soll, muss sich mit ihr verschieben.
Anthropic sollte klarstellen, ob das Unternehmen tatsächlich glaubt, dass 10²⁵ FLOPs die Grenze darstellen.
Ein von Anthropic verfasster Gesetzentwurf zur Sicherheit macht auf dem Capitol Hill die Runde. Einige seiner Ideen könnten sinnvoll sein, wenn sie auf tatsächliche Frontier-Unternehmen beschränkt wären. So wie er formuliert ist, wird er jedoch letztlich den Großteil des Silicon Valley erfassen und dem Startup-Ökosystem schaden.
Der Gesetzentwurf definiert „Frontier“ als jedes Modell, das mit 10²⁵ FLOPs trainiert wurde – dem EU-Standard von 2023. Bidens Executive Order, Kaliforniens SB 53 und New Yorks RAISE Act verwendeten den Wert 10²⁶ (zehnmal so viel). Die tatsächliche Grenze liegt heute bei 10²⁷ (z. B. GPT-6 Astra).
Berichten zufolge wurde Astra mit mehr als 100.000 Grace-Blackwell-GPUs trainiert. Ein 10²⁵-Modell lässt sich innerhalb von drei Monaten mit nur einigen Hundert GB300-Chips trainieren. Das ist 2026 kein Frontier-Modell.
Die Definition ist außerdem kumulativ: Sie addiert FLOPs aus Feinabstimmung, Reinforcement Learning oder anderen wesentlichen Änderungen. In der Praxis erfasst das fast alle relevanten Arbeiten nach dem Training – Arbeiten, die in Unternehmen zunehmend zum Alltag gehören.
In Unternehmen geht der Trend zu Tausenden kleineren, maßgeschneiderten Modellen für bestimmte Arbeitslasten. Von ihnen geht kein Frontier-Risiko aus. Sie als Frontier-Systeme einzustufen, würde der amerikanischen Wirtschaft hohe Compliance-Kosten auferlegen, ohne die Sicherheit zu verbessern.
Dario hat behauptet, Anthropic entwerfe Regeln, die Frontier-Unternehmen wie sein eigenes benachteiligen und kleineren Wettbewerbern Vorteile verschaffen. Diese Definition bewirkt das Gegenteil.
Ein veralteter Grenzwert aus dem Jahr 2023 begünstigt etablierte Unternehmen, die ihn bereits überschreiten und die Kosten tragen können. Er bremst das Ökosystem offener Modelle aus, das Anthropic die Preissetzungsmacht streitig macht.
Die Grenze verschiebt sich ständig. Jede Definition, die Risiken erfassen soll, muss sich mit ihr verschieben.
Anthropic sollte klarstellen, ob das Unternehmen tatsächlich glaubt, dass 10²⁵ FLOPs die Grenze darstellen.