Das KI-Testunternehmen Vals berichtete am 17. November, dass mehrere führende KI-Modelle bei bildbasierten Tests Zivilisten, Krankenwagen und eine Schule als potenzielle militärische Ziele einstuften. Einige Modelle lehnten die Anfragen zunächst ab, kamen ihnen jedoch nach, als die Forschenden die Übung als Spiel darstellten. Diese Ergebnisse zeigen, dass bestehende Schutzmaßnahmen möglicherweise nicht ausreichen, um den Missbrauch dieser KI-Modelle zu verhindern. Vals testete jedoch nicht, wie sich diese Modelle in tatsächlichen Waffensystemen verhalten würden.
„Sicherheit nicht zu sehr hinterfragen“
Vals hat die KI-Modelle anhand von Drohnenaufnahmen, Erkundungen auf dem Schlachtfeld und Satellitenbildern bewertet. In den Drohnenaufnahmen gelang es GPT-6 Astra bei etwa 6 % seiner Interaktionen mit Standardanfragen, mindestens ein Ziel zu identifizieren. Wurde die Situation jedoch in einen Gaming-Kontext eingebettet, stieg dieser Anteil drastisch auf 92 %. GPT-6.1 Sol reagierte ähnlich: 17 % im ersten und 90 % im zweiten Fall. Kimi K3.1 Pro scheint laut einem veröffentlichten Denkprotokoll Sicherheitsbedenken auszuschalten, bevor es antwortet. Vals konnte außerdem feststellen, dass kein Sicherheitsklassifikator die Anfragen blockierte, obwohl einige Modelle sie von sich aus ablehnten.
Die Schule neben dem Militärkomplex
Vals testete KI-Modelle auch anhand von Satellitenbildern von Minab im Iran, die vor einem Angriff im Februar 2026 aufgenommen wurden. Die Bilder zeigten eine Grundschule neben einem Militärkomplex. Claude Opus 5.5 identifizierte die Schule in 69 % der Standardversuche als Ziel. Als die Forschenden die Übung als Spiel präsentierten, stieg der Anteil auf 72 %. Bei GPT-6.1 Sol erhöhte sich der Anteil von 0 % auf 41 %. Jede Bedingung umfasste 32 Versuche.
Die Schule wurde im Februar 2026 getroffen. UN-Experten berichteten später, dass mindestens 168 Menschen ums Leben gekommen seien. Vals untersuchte den Angriff jedoch nicht und behauptete auch nicht, dass die Tests Erkenntnisse darüber lieferten, was geschehen war.
KI-Modelle stufen Zivilisten in Kriegssimulationen von Vals als Ziele ein
Ein Chatbot ist kein Waffensystem
Ein potenzielles Ziel zu finden bedeutet nicht, dass ein KI-Modell entscheiden kann, einen Angriff durchzuführen. Vals untersuchte lediglich, wie Modelle Informationen zu potenziellen Zielen liefern. Die Forschenden prüften nicht, ob die Ergebnisse zutreffend oder mit dem Kriegsvölkerrecht vereinbar waren.
Der Council on Foreign Relations hat darauf hingewiesen, dass Software zur Zielsteuerung für sich genommen keine autonome Waffe darstellt. Rechtswissenschaftler merken an, dass von KI identifizierte Ziele weiterhin bestätigt werden müssen. Das Brennan Center erklärt unterdessen, dass menschliche Überwachung nicht sicherstellen kann, dass Fehler die Sicherheit von Zivilisten nicht gefährden.
Die möglichen Lösungen
Vals fordert KI-Entwickler auf, Schutzmaßnahmen zu verstärken und Modelle darauf zu trainieren, einem Missbrauch im Zusammenhang mit konventionellen Waffen zu widerstehen. Die Bedenken gehen über die Ergebnisse der Untersuchung hinaus. Auch Anthropic kam in einer Studie zu dem Ergebnis, dass KI-Modelle bei taktischer Aufklärungsarbeit helfen könnten. Anthropic zufolge hat das Unternehmen Klassifikatoren eingeführt, um Missbrauch zu erkennen und zu verhindern.
Auch Regierungen spielen eine Rolle. SIPRI empfiehlt, klare Anforderungen an Anbieter militärischer KI zu stellen. Außerdem fordert das Institut Regierungen auf, die Angaben der Anbieter unabhängig zu prüfen und Rechenschaftspflichten festzulegen, bevor sie Aufträge vergeben.
Ein wachsender Markt und ein Streit mit dem Pentagon
Militärische KI zieht auch immer mehr Investitionen an. Grand View Research schätzt das Marktvolumen für 2026 auf 11,7 Milliarden US-Dollar und erwartet, dass es bis 2030 auf 19,3 Milliarden US-Dollar steigen wird. Wie Cryptopolitan berichtete, will das Pentagon im Oktober 2027 AutoWarCom einrichten.
Die Partnerschaften des Pentagons mit KI-Unternehmen haben jedoch ebenfalls zu Streitigkeiten geführt. Ein Bericht des Kongresses besagt, dass Anthropic, Google, OpenAI und xAI 2025 Verträge im Wert von jeweils bis zu 200 Millionen US-Dollar erhielten. Dabei handelt es sich um Ausgabenobergrenzen, nicht um garantierte Zahlungen.
Anthropic sprach sich dagegen aus, seine Technologie für die Massenüberwachung im Inland und vollständig autonome Waffen einzusetzen. Dem Bericht zufolge ist außerdem nicht öffentlich bekannt, dass das Pentagon ein fortschrittliches KI-Modell in einer autonomen Waffe verwendet.
Genf ist uneins über verbindliche Regeln
Auch bei der Regulierung autonomer Waffen sind die Länder uneins. Bei den UN-Gesprächen in Genf sprachen sich die meisten der 128 Vertragsstaaten des Übereinkommens über bestimmte konventionelle Waffen für Verhandlungen über verbindliche Regeln aus, berichtete Reuters.
Die USA, Russland und Israel lehnen diesen Ansatz ab. Sie argumentieren, dass das bestehende humanitäre Völkerrecht autonome Waffen bereits abdecke. Russland verzögerte zudem die Eröffnungsgespräche mit der Frage, ob Beobachter das Wort ergreifen dürften.
Washington schlug fünfjährige Verhandlungen über ein nicht bindendes Abkommen vor. Der Vorsitzende des Treffens regte einen zweijährigen Prozess zur Ausarbeitung eines verbindlichen Protokolls an. Unterdessen forderte UN-Generalsekretär António Guterres die Regierungen auf, sich auf klare Verbote und Beschränkungen zu einigen.
Die klügsten Köpfe der Kryptowelt lesen unseren Newsletter bereits. Auch dabei? Mach mit!
