Anthropic zufolge hat das Unternehmen die Datenmenge, die bei Distillationsangriffen aus Claude gewonnen wird, um rund 90–99 % reduziert. Zu dieser Leistung gratuliere ich ihnen.
Das entspricht dem Punkt, den ich vor einigen Monaten angesprochen habe (All-In Ep. 282): Anthropic, nicht die Regierung, war am besten in der Lage, die Destillation der eigenen Modelle zu verhindern. Ist das Kind erst einmal in den Brunnen gefallen, sind nachträgliche Maßnahmen der Regierung nur begrenzt sinnvoll.
Damals gab es in Washington große Bestrebungen, Open-Modelle aus Gründen des geistigen Eigentums einzuschränken. Die Bedrohung schien ernst genug, dass 50 Unternehmen – darunter Nvidia, Microsoft, Meta, IBM, Palantir und Dell – einen offenen Brief zur Verteidigung von Modellen mit offenen Gewichten veröffentlichten. Jensen Huang warb in seinem allerersten X-Beitrag dafür. Fast 200 Start-ups schickten einen ähnlichen Brief.
Ich argumentierte, dass Einschränkungen für Open-Modelle den Anreiz für Anbieter geschlossener Modelle, das Problem selbst zu lösen, zunichtemachen könnten – und Nachlässigkeit belohnen würden, indem sie den Wettbewerb ersticken, während die Unternehmen weiterhin Einnahmen aus der Destillation erzielen. Die Regierung führte diese Einschränkungen nicht ein.
Nun sehen wir das Ergebnis. Anthropic investierte in Schutzmaßnahmen, und sie haben funktioniert. Nicht jede technische Herausforderung ist ein Grund, nach neuen Vorschriften aus Washington zu rufen.
Das entspricht dem Punkt, den ich vor einigen Monaten angesprochen habe (All-In Ep. 282): Anthropic, nicht die Regierung, war am besten in der Lage, die Destillation der eigenen Modelle zu verhindern. Ist das Kind erst einmal in den Brunnen gefallen, sind nachträgliche Maßnahmen der Regierung nur begrenzt sinnvoll.
Damals gab es in Washington große Bestrebungen, Open-Modelle aus Gründen des geistigen Eigentums einzuschränken. Die Bedrohung schien ernst genug, dass 50 Unternehmen – darunter Nvidia, Microsoft, Meta, IBM, Palantir und Dell – einen offenen Brief zur Verteidigung von Modellen mit offenen Gewichten veröffentlichten. Jensen Huang warb in seinem allerersten X-Beitrag dafür. Fast 200 Start-ups schickten einen ähnlichen Brief.
Ich argumentierte, dass Einschränkungen für Open-Modelle den Anreiz für Anbieter geschlossener Modelle, das Problem selbst zu lösen, zunichtemachen könnten – und Nachlässigkeit belohnen würden, indem sie den Wettbewerb ersticken, während die Unternehmen weiterhin Einnahmen aus der Destillation erzielen. Die Regierung führte diese Einschränkungen nicht ein.
Nun sehen wir das Ergebnis. Anthropic investierte in Schutzmaßnahmen, und sie haben funktioniert. Nicht jede technische Herausforderung ist ein Grund, nach neuen Vorschriften aus Washington zu rufen.