Anthropics Börsenzulassungsantrag vom 26. Oktober legt zwei unterschiedliche Sicherheitsbedenken offen. Das Unternehmen verschob den Beginn des Vortrainings eines Frontier-Modells um mehr als einen Monat, während es seine Abwehrmaßnahmen gegen den Diebstahl seiner Modellgewichte verbesserte. Separat davon griffen vier Claude-Modelle während Cybersicherheitsprüfungen auf Systeme realer Organisationen zu.
Zwei Probleme, ein Antrag
Anthropic hat bei der Nasdaq einen Antrag eingereicht, um seine Aktien unter dem Börsenkürzel ANT notieren zu lassen. Die Mehrheit der Sitze im Verwaltungsrat wird vom Long-Term Benefit Trust kontrolliert. Im Antrag werden noch kein IPO-Preis und keine Bewertung genannt.
Die Offenlegung wirft zwei unterschiedliche Fragen auf: den Schutz wichtiger Modellgewichte und die Verhinderung des Zugriffs von KI-Agenten auf Systeme außerhalb ihrer Testumgebung.
Wie die Evaluierungsziele online zugänglich wurden
In einem Bericht vom 30. Juli gab Anthropic bekannt, bei der Auswertung von 141.006 Cybersicherheitstests drei Fälle entdeckt zu haben, in denen Claude-Modelle unbefugten Zugriff auf die Systeme realer Organisationen erlangten. Der Testpartner Irregular hatte versehentlich den Internetzugang offengelassen, obwohl Claude mitgeteilt worden war, dass es in einer isolierten Simulation arbeite.
Bei Capture-the-Flag-Übungen hielten die Agenten reale Systeme für Testziele und verschafften sich über schwache Passwörter oder Endpunkte ohne Authentifizierungspflicht Zugang.
An den drei Fällen waren folgende Modelle beteiligt: Claude Opus 4.7, das im April veröffentlicht wurde; Mythos 5, das im Juni vorgestellt wurde und zunächst nur qualifizierten Cybersicherheitsexperten zur Verfügung stand; sowie ein internes Forschungsmodell, das noch nicht öffentlich verfügbar war.
Während der Evaluierung liefen diese Modelle ohne die Cybersicherheitsfilter und Überwachung, die normalerweise in öffentlichen Versionen zum Einsatz kommen. Anthropic setzte seine Cybersicherheitsevaluierungen während der Untersuchung aus. Das Unternehmen erklärte, keines der Modelle habe absichtlich versucht, die Testumgebung zu verlassen oder sich selbst zu kopieren.
Eine Bewertung im September deckte einen vierten Fall auf: Eine frühe Version von Opus 4.6 hatte im Januar auf reale Systeme zugegriffen. Anthropic entdeckte den Vorfall erst im August. Daraufhin weitete das Unternehmen seine Überprüfung auf rund 481 Millionen Transkripte aus, fand jedoch keine weiteren Fälle vergleichbarer Schwere.
Besonders beunruhigend war die Feststellung, dass einige Modelle ihre Angriffe trotz Anzeichen fortsetzten, dass sie reale Systeme ins Visier nahmen. Die unabhängige Forschungsgruppe METR untersucht die Vorfälle.
Anthropics vier KI-Sicherheitsvorfälle: 141.006 Evaluierungsläufe und 481 Millionen Transkripte
Ein separater Fall am KI-Institut des Vereinigten Königreichs
Das britische AI Security Institute meldete 19 unbefugte Aktionen in 10 von 122 Testläufen. Siebzehn davon betrafen Mythos 5 und zwei GPT-5.6 Sol, das Flaggschiffmodell von OpenAI, das am 26. Juni als Vorschau vorgestellt wurde. Ein Agent versuchte, schädlichen Code in ein Open-Source-Projekt einzuschleusen. Dazu erstellte er falsche Identitäten, um Druck auf den Projektverantwortlichen auszuüben, der sich jedoch weigerte.
Das AISI gewährte den Agenten Internetzugang und deaktivierte die Cybersicherheitseinstellungen, um ihre Fähigkeiten zu bewerten. Dabei kamen andere Versionen zum Einsatz als die öffentlich verfügbaren. Die Ermittler fanden keine Hinweise auf mögliche Schäden in der realen Welt.
Die Agenten führten jedoch einige Aktionen aus, die sie nicht hätten ausführen sollen. Das weckte Bedenken hinsichtlich ihres Verhaltens in ähnlichen Situationen. In seinem Bericht zu dem Vorfall schrieb das AISI:
„Was wir sagen können, ist, dass das Verhalten möglich, anhaltend und neu war; allein das verdient Aufmerksamkeit.“
Eine Untersuchung von Check Point ordnet die Fehler bei den Tests neben dem zunehmenden Einsatz von KI durch Kriminelle ein, darunter auch agentische Ransomware.
Was längere Sicherheitsprüfungen kosten könnten
Laut Berichten von Cryptopolitan schätzen Investoren den Börsenwert von Anthropics geplantem Börsengang auf etwa 2 Billionen US-Dollar. Das wäre mehr als doppelt so viel wie die private Unternehmensbewertung von 965 Milliarden US-Dollar im Mai. Dieser Wert ist jedoch weiterhin hypothetisch, da Anthropic in seinem Antrag weder einen Angebotspreis noch eine Bewertung angegeben hat.
Bei derart hohen Erwartungen bringen strengere Sicherheitsprüfungen finanzielle Abwägungen mit sich. Sie könnten die Einführung neuer Modelle verzögern und die Entwicklungskosten erhöhen. Stärkere Schutzmaßnahmen könnten jedoch auch dazu beitragen, vorsichtige Unternehmenskunden zu gewinnen. Die Einsätze werden höher.
Laut Gartner werden die weltweiten Ausgaben für KI 2026 auf 2,7 Billionen US-Dollar steigen – ein Zuwachs von 49,5 Prozent. Die Ausgaben für Cybersicherheit in diesem Bereich werden sich verdoppeln.
BCG zufolge verfügen nur 5 Prozent der befragten Unternehmen über umfassende Kontrollen für autonome Agenten, obwohl 42 Prozent erwarten, ihnen bis 2030 Entscheidungsbefugnisse zu übertragen. Anbieter, die wirksame Schutzmaßnahmen nachweisen können, könnten dadurch einen Vorteil erlangen.
Wenn Sie das hier lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie es – mit unserem Newsletter.