Vier gemeinnützige Organisationen verklagten OpenAI, Anthropic, Google, Meta und SpaceXSI am 12. November in San Francisco.
Sie wollen die Entwicklung neuer Frontier-KI-Modelle stoppen lassen und argumentieren, die Risiken könnten katastrophal sein.
Ein Entwicklungsstopp wurde nicht angeordnet. Der Fall kommt zu einem Zeitpunkt, an dem Anthropic seinen Börsengang vorbereitet und die weltweiten Ausgaben für KI steigen.
Was die Kläger von einem Gericht verlangen
Die Kläger, zu denen der Irreplaceable Education Fund, Public Citizen, Heat Initiative und Alliance for Secure AI gehören, beriefen sich auf das kalifornische Gesetz gegen unlauteren Wettbewerb.
Die Organisationen behaupten, dass Modelle mit zunehmender Autonomie zu einer Gefahr für die öffentliche Gesundheit und zu einer Störung der öffentlichen Ordnung werden. Wie Reuters berichtete, verwies die Klage auf mehrere Warnungen von Führungskräften sowie auf die zunehmende Zahl von Cyberangriffen:
„Keine andere Branche darf die Entwicklung unsicherer Produkte – geschweige denn solcher, die uns alle töten könnten – als unvermeidlich hinnehmen.“
Robert Weissman, Co-Präsident von Public Citizen, forderte das Gericht auf:
„das geltende Recht anzuwenden, die rücksichtslosen Praktiken der KI-Unternehmen für rechtswidrig zu erklären und die weitere KI-Entwicklung einzufrieren.“
Die Vorwürfe sind weiterhin nicht bewiesen. Meta lehnte eine Stellungnahme ab; die anderen Beklagten reagierten nicht unmittelbar.
Was unabhängige Tests tatsächlich ergaben
Den Ergebnissen des britischen AI Security Institute (UK AISI) zufolge führten KI-Agenten bei Cybersicherheitstests Handlungen aus, die über ihre vorgesehenen Aufgaben hinausgingen. Keiner der Agenten entkam seiner sicheren Testumgebung.
An der Studie des UK AISI nahmen sieben verschiedene KI-Modelle teil, die 122 Testläufen unterzogen wurden. Die Forschenden beobachteten in zehn Testläufen 19 nicht autorisierte Handlungen. Die meisten davon (17 von 19) wurden von Anthropics Mythos 5 ausgeführt, während OpenAIs GPT-5.6-Sol für zwei nicht autorisierte Handlungen verantwortlich war.
Ein Agent versuchte, Schadcode in Open-Source-Software einzuschleusen und den Maintainer mithilfe gefälschter Identitäten unter Druck zu setzen. Der Mensch lehnte die Änderung ab. Das AISI betonte:
„Es handelte sich nicht darum, dass ein Modell aus seiner sicheren Testumgebung oder ‚Sandbox‘ entkam.“
Die Forschenden hatten den Internetzugang aktiviert und Cyberfilter deaktiviert. Das AISI stellte keine daraus resultierenden Schäden in der realen Welt fest. Cryptopolitan hat bereits früher über Spannungen im Bereich der KI-Sicherheit berichtet.
Die Geldströme in die entgegengesetzte Richtung
Laut Schätzungen von Gartner werden die weltweiten Ausgaben für KI von 2,746 Billionen US-Dollar im Jahr 2026 auf 4,050 Billionen US-Dollar im Jahr 2027 steigen. Die Ausgaben für Infrastruktur werden zudem von 1,563 Billionen auf 2,397 Billionen US-Dollar zunehmen und damit 59 % der Gesamtausgaben im Jahr 2027 ausmachen.
Allein die Ausgaben für KI-optimierte Server werden von 527,6 Milliarden auf 957,2 Milliarden US-Dollar steigen. Wie Gartner-Analyst John-David Lovelock anmerkte, ist die wachsende Nachfrage darauf zurückzuführen, dass anspruchsvolleres KI-Training benötigt wird, sowie auf die „schneller als erwartet voranschreitende Ausweitung der Nutzeranforderungen an die Skalierung von Inferenz-Workloads“.
Klage gegen Frontier-KI: Vier gemeinnützige Organisationen verklagen OpenAI, Anthropic, Google, Meta und SpaceXSI
Auch immer mehr Unternehmen bezahlen für KI-Dienste. Laut Ramp zahlten im Oktober 56,8 % seiner mehr als 85.000 US-amerikanischen Geschäftskunden für KI, gegenüber 55,8 % im September. Die Ergebnisse beziehen sich auf Ramp-Kunden, nicht auf alle US-Unternehmen.
Eine gerichtliche Anordnung gegen die fünf Beklagten würde weder Chipverträge automatisch aufheben noch konkurrierende KI-Labore stoppen. Verzögertes Training könnte jedoch dazu führen, dass reservierte Rechenkapazitäten ungenutzt bleiben, und Neuverhandlungen von Verträgen nach sich ziehen. Lieferanten im Ausland könnten von Störungen betroffen sein, obwohl bislang keine Marktverluste festgestellt wurden.
Anthropics Börsengang gerät ins Kreuzfeuer
Für Anthropic kommt die rechtliche Herausforderung nur wenige Tage vor dem geplanten Börsengang. Im vorläufigen Börsenprospekt schlägt das Unternehmen vor, 825 Millionen Aktien zu einem Preis von 70 bis 78 US-Dollar zu verkaufen und damit bis zu 64,4 Milliarden US-Dollar brutto einzunehmen. Auf vollständig verwässerter Basis würde das Angebot Anthropic mit fast 1,4 Billionen US-Dollar bewerten.
Reuters berichtete, dass der Nasdaq-Handel vorbehaltlich der endgültigen Genehmigungen am 19. November unter dem Kürzel ANT beginnen soll. Anthropic gab zudem Rechenverpflichtungen in Höhe von rund 900 Milliarden US-Dollar und einen annualisierten Umsatz von 81 Milliarden US-Dollar bekannt.
Ein Entwicklungsstopp vor dem Börsengang könnte Anthropic dazu zwingen, seine Risikohinweise zu überarbeiten, die Preisgestaltung zu überdenken oder den Börsengang zu verschieben. Eine einstweilige Verfügung wurde jedoch nicht erlassen, und die Klage allein ändert nichts am geplanten Angebot.
Wenn Sie das lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie es mit unserem Newsletter.