Microsoft-Mitgründer Bill Gates hat die USA dazu aufgerufen, bei der Regulierung von Künstlicher Intelligenz voranzugehen, aber gewarnt, dass es schwieriger sein könnte, Länder zu einer Einigung über einen globalen Rahmen zu bringen, als es bei den Verhandlungen im Stil des Kalten Krieges zur Begrenzung von Nuklearwaffen gewesen sei, wie NBC berichtet. „Das ist schwieriger als damals“, sagte Gates NBCs „Meet the Press“ in einem Gespräch, das am Sonntag ausgestrahlt wurde. Seine Äußerungen fielen, als er sich mit Trumps Haltung gegen eine Regulierung von KI befasste; der Präsident hatte diesen Monat Forderungen nach bundesweiten Leitplanken zurückgewiesen und auf Truth Social gepostet: „WER IMMER GEWINNT KI, GEWINNT! Wir führen China an, und alle anderen, und werden weiterhin so handeln.“ Gates argumentierte, dass eine Überwachung von KI-Unternehmen die USA in keinem Wettrennen mit China beeinträchtigen würde; er sagte, er erwarte „dass wir zu einem Konsens kommen werden“, nachdem Trump von ihm und anderen gehört habe.

Die Bedenken haben sich in diesem Monat verschärft, nachdem der Anthropic-Whistleblower Jacob Coxon warnte, dass „die Menschen, die KI bauen, ernsthaft glauben, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte“, und Anthropics Dario Amodei sowie OpenAIs Sam Altman sich über die Notwendigkeit einig waren, die Entwicklung zu verlangsamen — angesichts der Befürchtung einer „Superintelligenz“. Der Abgeordnete Ro Khanna sagte, die USA und China sollten eine Arbeitsgruppe bilden, und Washington könne eine durchsetzbare, überprüfbare Vereinbarung anführen, die rekursive, sich selbst weiterentwickelnde KI verbietet. Vor seinem Gipfel mit Chinas Präsident Xi Jinping schrieb Trump, „Super Intelligence“ werde ein großes Thema sein, er wolle jedoch „sie genau dort lassen, wo sie ist“; anschließend erklärte das Weiße Haus, die beiden Länder hätten einen Dialog zu KI-Risiken und -Nutzen eingerichtet, wobei der nächste Austausch voraussichtlich im November stattfinden werde.

Gates sagte, die unmittelbarste Gefahr sei, dass „Menschen mit bösen Absichten KI verwenden“ — um Einzelpersonen zu betrügen, das Stromnetz lahmzulegen oder Bankkonten zu verwirren — und warnte, dass kleine Gruppen nun tun könnten, wozu früher nur die größten Staaten in der Lage waren. Er forderte integriertes Monitoring und Schutzmaßnahmen in jedem KI-Labor und sagte, diese ließen sich hinzufügen, ohne die Entwicklung zu verlangsamen. Außerdem argumentierte er, ein vorgeschlagener „Kill Switch“ allein sei „nicht genug“, ohne Einblick darin, was die Systeme tun. Gates sagte zudem, die Gates Foundation arbeite mit 60 KI-Unternehmen daran, die Zuverlässigkeit in nicht-englischen Sprachen zu verbessern — wo die Fehlerquoten etwa 10-mal höher liegen — mit dem Ziel, innerhalb von fünf Jahren jede Sprache, die von einer Million oder mehr Menschen gesprochen wird, in Bezug auf die Qualität so nah wie möglich an Englisch heranzuführen. Dafür setzt sie auch KI ein, um die verbleibenden Ausgaben der Stiftung von über 200 Milliarden US-Dollar besser zu steuern.