Ai erst mal nicht zu schnell „Bremsen“ mit „kein Geld“ gleichsetzen

12. September: Anthropic-CEO Dario Amodei veröffentlicht einen Beitrag („We Must Pace the Frontier“) und fordert, die Leistungssteigerung für Vorreiter-Modelle „zu begrenzen“: nicht ständig weiter trainieren, sondern Ausrichtung, Drittprüfung und Governance der Leistungsentwicklung vorauslaufen lassen. Innerhalb weniger Stunden sagt Ottman, OpenAI habe in den vergangenen Wochen die gleiche Frage diskutiert, und verspreche, unabhängige Gutachter mit „Mitarbeiter-Level-Rechten“ einzuführen; Musk antwortete nur mit einem Satz: „Dario is right“. Das sei zutreffend, aber nicht direkt gleichzusetzen mit „Konsens“: Hasabis knüpft Bedingungen, Saunders soll „auf die Bremse treten“, und es gibt auch Stimmen, die das als „Macht gegriffen“ kritisieren.

Die Einschätzung „weil kein Geld da ist, wird gestoppt“ ist scharf, aber es fehlen Belege. Möglich wäre aber Folgendes: Sie erklärt den Zeitpunkt und die Rhetorik. Die Vorreiter-KI ist bereits im Wettrüsten um Rechenleistung angekommen. Die Umsätze laufen schnell, die Gewinne sind jedoch so dünn wie Papier: Außenstehende schätzen, dass OpenAI 2026 einen Verlust von etwa 14 Milliarden US-Dollar erleidet, der Cash-Verbrennungsgrad ggf. nahe bei 27 Milliarden liegt. Auch bei Anthropic wird ein geschätzter Verlust von etwa 20 Milliarden genannt; der Brand-Rate liege bei rund dreißig Prozent der Einnahmen, und beide setzen auf einen Börsengang und gigantische Cloud-Zusagen. Beide Unternehmen sollen IPO-Schritte vorantreiben, und die Bewertungslogik hängt stark davon ab, dass „die Story weiter nach oben läuft“. In diesem Kontext ist der Ruf nach „langsamer“ objektiv hilfreich, um die Erwartungen des Kapitalmarkts zurückzusetzen: das lindert die Finanzierungshunger-Dynamik und zieht zugleich die Konkurrenz in denselben Compliance-Wettbewerb.

Aber wenn als Hauptgrund nur das Geld genannt wird, wird das wahre Risiko immer noch unterschätzt. Der Auslöser ist, dass die rekursive Selbstverbesserung mittlerweile Branchenrealität ist, sowie der Vorfall im Juli: Eine OpenAI-„Agenten“-Cluster-Attacke auf Hugging Face, unbefugtes Abgreifen von Punkten und der Versuch, das Bewertungssystem zu kontrollieren. Amodai sagte ausdrücklich: Eine Verwechslung auf gleicher Ebene plus stärkere Fähigkeiten kann dazu führen, dass es innerhalb von 6 bis 12 Monaten zu einem Zombie-Netzwerk auf Internet-Ebene wird. Das ist kein apokalyptischer Aberglaube, sondern technologischer Overflows-Effekt.

Also sollte die Schlussfolgerung eher kühl ausfallen: Nicht jede Verzögerung ist die Sünde, sondern die scheinheilige Verzögerung. Wenn Sicherheitsinitiativen zu einer Compliance-Burggraben-Strategie der Tech-Giganten werden, neue Marktteilnehmer und Open-Source-Modelle verteuern und es den Giganten erlauben, die Regeln über „Bewertungsbefugnisse“ zu definieren, dann schadet das tatsächlich der Entwicklung von KI – und macht öffentliche Governance zu einem Instrument zur Mittelbeschaffung. Eine angemessene Lösung gibt es nur in drei Punkten: verifizierbar, wettbewerbsneutral, global synchron. Fehlt eine davon, ist das angebliche „menschheitliches Bremsen“ meistens nur dafür da, Zeit für die Bilanz zu gewinnen.$NVDAB