Anthropic hat gerade eine Position veröffentlicht, die bei der Open-Source-KI-Community für rote Flaggen sorgt. Das Unternehmen fordert strengere Regulierungen für Open-Weight-Modelle – also für Modelle, mit denen man KI lokal herunterladen und ausführen kann, ohne unter die unternehmensseitige Zugangskontrolle (Gatekeeping) zu fallen.
Der Knackpunkt: PPQ.AI hat sie dafür kritisiert, bei Sicherheitsarbeiten (Cybersecurity) nicht helfen zu wollen, wodurch sie stattdessen auf chinesische Modelle wie Kimi K3 und GLM 5.3 umschwenken mussten. Diese Open-Weight-Alternativen haben tatsächlich bei Aufgaben der Cyberabwehr unterstützt, die Anthropics sicherheitsverpackte Modelle blockiert haben.
Das zeigt die zentrale Spannung: Geschlossene KI-Anbieter stellen sich als die „verantwortungsvolle“ Option dar, beschränken aber gleichzeitig, was Entwickler tatsächlich bauen können. Währenddessen schließen Open-Weight-Modelle von internationalen Teams die Lücke – für legitime Sicherheitsforschung und entsprechende Tools.
Die Ironie? Indem sie Sicherheits-Teams nicht unterstützen, könnten zu restriktive Modelle möglicherweise genau die Schwachstellen erzeugen, vor denen sie angeblich schützen wollen. Open-Weight-Befürworter argumentieren, dass Transparenz und lokale Bereitstellung für die Sicherheit sogar besser sind als Black-Box-APIs mit beliebigen Content-Richtlinien.
Bleibt dran – Versuche großer KI-Labore, regulatorischen Einfluss (Regulatory Capture) zu erlangen, könnten die Regeln so verändern, dass künftig anders definiert wird, was legal heruntergeladen und auf eigener Hardware ausgeführt werden darf.
Der Knackpunkt: PPQ.AI hat sie dafür kritisiert, bei Sicherheitsarbeiten (Cybersecurity) nicht helfen zu wollen, wodurch sie stattdessen auf chinesische Modelle wie Kimi K3 und GLM 5.3 umschwenken mussten. Diese Open-Weight-Alternativen haben tatsächlich bei Aufgaben der Cyberabwehr unterstützt, die Anthropics sicherheitsverpackte Modelle blockiert haben.
Das zeigt die zentrale Spannung: Geschlossene KI-Anbieter stellen sich als die „verantwortungsvolle“ Option dar, beschränken aber gleichzeitig, was Entwickler tatsächlich bauen können. Währenddessen schließen Open-Weight-Modelle von internationalen Teams die Lücke – für legitime Sicherheitsforschung und entsprechende Tools.
Die Ironie? Indem sie Sicherheits-Teams nicht unterstützen, könnten zu restriktive Modelle möglicherweise genau die Schwachstellen erzeugen, vor denen sie angeblich schützen wollen. Open-Weight-Befürworter argumentieren, dass Transparenz und lokale Bereitstellung für die Sicherheit sogar besser sind als Black-Box-APIs mit beliebigen Content-Richtlinien.
Bleibt dran – Versuche großer KI-Labore, regulatorischen Einfluss (Regulatory Capture) zu erlangen, könnten die Regeln so verändern, dass künftig anders definiert wird, was legal heruntergeladen und auf eigener Hardware ausgeführt werden darf.