Am 5. Juni, Beijing-Zeit, veröffentlichte das AI-Startup Anthropic einen Blogbeitrag, in dem es die führenden AI-Labore der Welt auffordert, ernsthaft darüber nachzudenken, das Tempo der Entwicklung fortschrittlicher Modelle zu verlangsamen. Das Unternehmen warnt, dass die aktuelle Geschwindigkeit, mit der sich AI-Systeme entwickeln, bald dazu führen könnte, dass sie ohne menschliches Eingreifen eine 'rekursive Selbstverbesserung' erreichen, was erhebliche soziale Risiken mit sich bringt.
Interne Daten von Anthropic zeigen, dass die Fähigkeiten ihres fortschrittlichsten Modells in alarmierendem Tempo steigen. Die sogenannte 'rekursive Selbstverbesserung' bezieht sich darauf, dass AI-Systeme in der Lage sind, die nächste Generation von Modellen zu verbessern, ihre eigenen Fähigkeiten zu optimieren oder den Entwicklungsprozess zu beschleunigen.
Sobald dies nicht mehr stark von menschlichen Ingenieuren abhängt, könnte sich die Geschwindigkeit des AI-Fortschritts erheblich über die bestehenden Regulierungs- und Sicherheitsbewertungsrahmen hinaus bewegen. Die Autoren des Artikels, der Leiter des Forschungsinstituts von Anthropic und der Leiter der Politikabteilung, schrieben: 'Wir glauben, dass es gut wäre, wenn die Welt die Möglichkeit hätte, die Entwicklung fortschrittlicher AI zu verlangsamen oder vorübergehend zu stoppen, um sicherzustellen, dass die gesellschaftlichen Strukturen und das Forschungsverständnis mit den technischen Fortschritten Schritt halten können.' Der Artikel schlägt außerdem vor, einen globalen Konsens darüber zu erzielen, wie man die Forschung verlangsamen kann, und einen Mechanismus zur Überprüfung einzurichten, um die Einhaltung durch die Branche zu überwachen.
Dieser Aufruf hat weitreichende Aufmerksamkeit erregt, die über die technologische Ebene hinausgeht. Anthropic selbst steht an der Spitze eines intensiven Wettbewerbs - das Unternehmen hat gerade eine Finanzierungsrunde abgeschlossen, die Bewertung liegt bei 965 Milliarden Dollar und übersteigt erstmals den Konkurrenten OpenAI (852 Milliarden Dollar). Zudem hat es heimlich einen IPO-Antrag eingereicht und plant, frühestens diesen Herbst an der Wall Street zu debütieren.
Andererseits gibt es seit langem Kontroversen über ihre Sicherheitsposition. Der Risikokapitalgeber und informelle Berater von Trump, David Sacks, hat das Unternehmen beschuldigt, eine 'Regulierungsgefangenschaftsagenda' zu verfolgen, um Wettbewerber unter dem Deckmantel der Regulierung zu unterdrücken. Ethan Mollick, Professor an der Wharton School der University of Pennsylvania, kommentierte, dass der Artikel von Anthropic 'ein wenig selbstreflektierend und auch ein wenig marketinglastig' sei, aber die Einschätzung des aktuellen Trends in der AI 'beachtenswert' sei.
Es ist bemerkenswert, dass dieser Aufruf genau zu einem Zeitpunkt kommt, in dem der AI-Regulierungsrahmen in den USA schnell Gestalt annimmt. Am 2. Juni unterzeichnete Präsident Trump eine Executive Order, die verlangt, dass AI-Unternehmen wie OpenAI, Google und Anthropic vor der öffentlichen Veröffentlichung neuer Modelle ein Netzwerk-Sicherheitstestfenster von bis zu 30 Tagen gegenüber der Regierung öffnen müssen. Gleichzeitig treibt der US-Kongress parteiübergreifende AI-Gesetzgebung voran, die von den führenden Entwicklern verlangt, die Sicherheit und Sicherheitsrisiken neuer Modelle offenzulegen.
Das bedeutet, dass die Diskussion darüber, ob es eine Geschwindigkeitsbegrenzung für AI-Wettbewerbe braucht, offiziell vom internen Branchendiskurs ins Zentrum der politischen und Kapitalmarktdebatte gerückt ist. Anthropic hat dies offen angesprochen und damit dieses Thema auf eine höhere öffentliche Entscheidungsebene gehoben.