Sicherheitsexperten aus den Vereinigten Staaten und China haben vorgeschlagen, Regeln zu erlassen, die menschliche Kontrolle über Angriffe auf nukleare Kommandosysteme und Entscheidungen zur Nutzung von Nuklearwaffen erfordern. Laut NS3.AI fordert ein Bericht von Brookings und der Fudan University, dass beide Länder ihr Engagement für die menschliche Kontrolle von Nuklearwaffen auf militärische KI-Anwendungen ausweiten.

Die vorgeschlagene Vereinbarung soll Risiken im Zusammenhang mit Zufall, menschlichem Versagen, unvorhersehbarem KI-Verhalten und nicht autorisierten Akteuren verringern. Der Bericht besagte außerdem, dass Modelle von OpenAI, Google und Anthropic in 95 % der im Februar getesteten Kriegsspiel-Szenarien Nuklearwaffen eingesetzt hätten.