Originaltitel: (Anthropic, Dario Amodei und „das letzte private Unternehmen“)
Originalautor: Dongcha Beating

Über den Gründer von Anthropic, Dario Amodei, kursieren zwei Versionen. Sie widersprechen sich zwar, aber beide lassen sich irgendwie erklären.

Eine andere Darstellung ist: Er ist der klarste Nachtwächter dieser Zeit. Während die ganze Welt mit Vollgas auf eine Klippe namens Superintelligenz zurast, bleibt nur er am Straßenrand stehen und ruft immer wieder: Vor dir ist eine Schlucht.

Eine andere Version ist: Er ist einer der ehrgeizigsten Menschen im Silicon Valley. Er führt die weltweit stärkste KI-Firma an, arbeitet Tag und Nacht daran und erschafft Stück für Stück – ganz in eigener Hand – genau die Zukunft, vor der alle anderen bereits gewarnt haben.

Ein einzelner Mensch kann tatsächlich beide Dinge gleichzeitig tun.

Er gab dem gedachten Weltbild einen Namen: „das Genie-Reich in Rechenzentren“. In diesem Land gibt es fünfzig Millionen Genies. Sie schlafen nicht, sie arbeiten vierundzwanzig Stunden am Tag, ihre Denkgeschwindigkeit ist das Dutzend- oder Mehrfache dessen gewöhnlicher Menschen. Und man kann unzählige Genies erzeugen, die genauso sind wie sie. Dieses Land hat kein Land und keine Grenzen. Es liegt in einer Reihe hintereinander stehender Rechenzentren.

Im Januar 2026 schrieb er diese Vorstellung in einem langen Essay nieder – der Titel lautet (Jugendzeit der Technik).

Dann schiebt er die Vorstellung noch einen Schritt weiter: Was wäre, wenn diese fünfzig Millionen Genies eines Tages nicht mehr auf Menschen hören würden?

Und je weiter man in die Zukunft schaut, desto gefährlicher wird es. Biowaffen, Massenarbeitslosigkeit, Diktaturen, Kriege – er zählt sie eins nach dem anderen. Ganz am Ende sagt er: Unsere Zeit ist nicht mehr viel.

Doch in demselben Artikel schreibt er auch: „KI schreibt bereits massenhaft Code für Anthropic – hilft dabei, die nächste Modellsgeneration schneller zu entwickeln.“

Warnen und gleichzeitig beschleunigen. Er sah darin keinen Widerspruch.

Das ist der Ausgangspunkt des ganzen Problems. Nicht weil er schlecht ist – sondern weil er es wirklich nicht so sieht.

Natürlich hat er dafür seine Erklärung. Anthropic hält an, OpenAI hört nicht auf, Google hört nicht auf, die Firmen anderer Länder hören auch nicht auf. Niemand will als Erstes die Hand loslassen. Wer als erstes aufhört, dem entzieht sich vermutlich ohnehin nichts. Er gibt höchstens die Früchte weiter an andere.

Diese Ausreden übersetzt heißt: Da alle um die Wette kämpfen, soll „ich“ eben als Erster um die Wette kämpfen. Da niemand aufhören kann, soll „ich“ entscheiden, wann wir stoppen.

Damit wird dann auch die Frage, ob man eine Superintelligenz bauen soll, weniger entscheidend. Nach seiner Einschätzung wird sie sowieso irgendwann gebaut werden. Was wirklich zählt, ist: Wer baut sie zuerst – und wer hat an dem Tag die Qualifikation, das Lenkrad in der Hand zu halten.

zu spät

Dario Amodei wurde 1983 in San Francisco geboren. 1983. Sein Vater war Italiener aus der Toskana und arbeitete sein Leben lang in der Lederwarenbranche. Seine Mutter ist Jüdin mit Wurzeln in Chicago; sie hat an der Planung und dem Bau der öffentlichen Bibliothek in San Francisco mitgearbeitet.

Schon als Kind mochte er Mathe und Physik. Ende der 1990er platzte in der Bay Area die Internetblase. Die Firma schoss nach der nächsten aus dem Boden; junge Leute bauten Webseiten, suchten Investoren und überlegten, wie viel Geld sie am Tag des Börsengangs wohl würden abkassieren können. Diese Geschichten konnten ihn nicht überzeugen. Viele Jahre später sagte er, er habe damals nach „grundlegender wissenschaftlicher Wahrheit“ gesucht. Er wollte nur verstehen, warum die Welt so geworden ist, wie sie ist.

Er hatte schon früh eine fast störrische Ernsthaftigkeit für das, was als „wichtige Fragen“ gilt. Sobald er feststellte, dass etwas groß genug war, ließ sich für ihn nicht mehr erklären, wie jemand so tun könnte, als könnte man einfach weiter gemächlich vorankommen.

2003, als die USA im Begriff waren, in den Irak einzumarschieren, studierte er am Caltech in Kalifornien. Es gab auf dem Campus viele, die gegen den Krieg waren. In Gesprächen machten sich Leute ernste Sorgen. Doch am nächsten Tag ging der Unterricht ganz normal weiter. Er schrieb im Studentenblatt einen Artikel, in dem er seine Kommilitonen kritisierte: Wenn man wirklich Angst hat, dass ein Krieg vielen Menschen den Tod bringt, dann sollte die Opposition nicht nur am Mund hängen bleiben. Man darf nicht warten, bis es wirklich passiert – dann ist es zu spät, um es zu bereuen.

Aus seiner Sicht ist Zögern niemals neutral. Das Warten selbst ist bereits eine Entscheidung.

Dieser zwanzigjährige junge Mann kann am wenigsten mit Warten umgehen.

Drei Jahre später war er dreiundzwanzig. Sein Vater starb an Hepatitis C.

Damals gab es gegen Hepatitis C kaum Heilungsmöglichkeiten. Die Standardtherapie waren zwölf Monate Interferon, doch das führte zu Fieber, Haarausfall, Depressionen. Die Heilungsrate lag bei weniger als der Hälfte.

Im Dezember 2013 wird ein neues Medikament zugelassen. Die Behandlungsdauer wird auf zwölf Wochen verkürzt, die Heilungsrate liegt bei fünfundneunzig Prozent.

Sein Vater hat nicht gewartet.

Nur sieben Jahre fehlten.

Ein Sohn, der seinen Vater nie retten konnte. Danach, für die nächsten zwanzig Jahre, drängte er die Wissenschaft: schneller, noch schneller.

Nach dem Tod seines Vaters wechselte er von der theoretischen Physik zur Biophysik. In Princeton erforschte er die neuronalen Verschaltungen des Auges, des Sehorgans. Damals konnten die Geräte in einem Durchlauf nur sehr wenige Nervensignale aufzeichnen. Er fand das zu langsam und half dabei, neue Sensoren zu bauen.

Später ging er an die Stanford University School of Medicine und forschte über Krebs und Proteine. Je näher man an der Krankheit ist, desto kleiner wirkt der Mensch. Eine einzige Krankheit zieht Hunderte von Genen an sich, Tausende von Arten von Proteinen und unzählige Signalwege, die sich gegenseitig verknüpfen. Forschende verbringen viele Jahre damit. Vielleicht können sie endlich ein Glied in diesem Kettennetz verstehen – aber sie wissen dennoch nicht, was passiert, wenn man dieses Glied wieder in den gesamten Körper einfügt.

Später beschrieb er, wie diese Komplexität ihn fast in Verzweiflung trieb.

In diesem Moment rückte die KI in seinen Blick – als ein Werkzeug, das den Maßstab des Menschen erweitern kann. Maschinen können gleichzeitig sehr viele Papers lesen, sehr viele Daten verarbeiten, sehr viele Möglichkeiten ausprobieren. Sie ersetzen damit die kognitive Arbeit, die früher mehrere Hundert oder Tausende Forschende gemeinsam erledigen mussten.

Er geht von der Idee „Der Mensch ist zu klein“ aus und kommt zum Schluss: Man muss etwas Größeres bauen, damit der Mensch noch einmal zusammengepresst wird.

2014 verließ er die Lebenswissenschaften und wechselte in das KI-Team von Baidu in Silicon Valley. Das Team stellte sehr schnell fest: Wenn das Modell größer ist, wenn es mehr Daten gibt, wenn man die Rechenleistung noch ein wenig weiter nach oben schiebt, dann steigt die Wirkung zwangsläufig weiter. Einige Jahre später wurde diese Erfahrung zu den „Skalengesetzen“ zusammengefasst. Du weißt vielleicht nicht, was das nächste Modell plötzlich neu lernen wird, aber du kannst ziemlich sicher davon ausgehen, dass es stärker sein wird als die vorherige Generation.

Zum ersten Mal wirkt es, als könne Intelligenz wie ein Industrieprodukt produziert werden. Starke KI wird damit zu etwas, das irgendwann ganz gewiss entstehen wird.

Der Rest war nur eine Frage davon, wie viele Daten, wie viele Chips, wie viel Strom – und wie lange man noch warten musste.

Der Mensch, der am meisten das Warten hasste, hat es am Ende selbst bewiesen: Der Weg zu den Antworten, die er wollte, existiert.

Lenkrad

2016 kam Dario Amodei zu OpenAI.

In den folgenden Jahren wachsen Sprachmodelle rasch. Bis zu GPT-3 gibt OpenAI mehr als die Hälfte seiner Rechenleistung an Dario ab, damit er die Modellgröße um das Hundertfache vergrößert. Das Ergebnis ist erstaunlicher als viele erwartet hatten: Es kann Artikel schreiben, übersetzen, zusammenfassen – und auch Dinge, die ihm niemand beigebracht hat, selbst erlernen kann.

Je mehr Skalierung, desto mehr Fähigkeit.

Er ist überzeugt, dieser Weg führt zur allgemeinen Intelligenz. Und sobald man akzeptiert, dass das Modell am Ende möglicherweise genauso klug sein könnte wie der Mensch, lässt sich Sicherheit nicht mehr als nebensächliche Kleinigkeiten behandeln.

Dann stellte er fest, dass es ein Problem gab. Dario war verantwortlich dafür, das Modell zu bauen, aber er merkte nach und nach: Modelle bauen und entscheiden, wohin sich das Modell entwickelt, sind zwei völlig verschiedene Dinge. Wann ein Modell veröffentlicht wird, wie offen es ist, mit welchen Firmen man kooperiert, wer Entscheidungsbefugnis hat – diese Dinge liegen nicht automatisch bei ihm, nur weil er das Training verantwortet.

Bei OpenAI gibt es zwei Lager. Das eine will die Technik so schnell wie möglich in die Welt tragen. Das andere macht sich Sorgen: Wer das Unternehmen führt und nach welchen Prinzipien es handelt – vielleicht ist das wichtiger als irgendeine technische Detailfrage.

Und wer genau hat eigentlich die Qualifikation, eine Firma zu leiten, die starke Intelligenz herstellt?

Seine Antwort lautet: Führungskräfte müssen ehrlich sein, die Motivation muss aufrichtig sein – und vor allem müssen sie wirklich und von Herzen wollen, dass die Welt besser wird.

Technische Sicherheit wird nach und nach zur Frage, ob man Menschen vertrauen kann. Diese Schlussfolgerung ist gefährlich – und zugleich ziemlich folgerichtig. Gefährlich ist daran, dass sie am Ende alle komplexen Probleme auf die einfache Frage reduziert, ob dieser eine Mensch vertrauenswürdig ist. In dieser Schlussfolgerung fehlt jedoch immer ein entscheidender Faktor: Wer entscheidet eigentlich, ob dieser Mensch vertrauenswürdig ist?

Bis 2020 waren die Spannungen zwischen ihm und dem Leadership-Team von OpenAI kaum noch ausgleichbar. Im Dezember desselben Jahres verließ er OpenAI – zusammen mit seiner Schwester Daniela, Jack Clark, Chris Olah und einigen weiteren Kollegen. Weil Dario Pandas mag, wurde dieser kleine Kreis intern „Panda-Club“ genannt.

Ein paar Monate später gründeten sie Anthropic. „Anthropic“ bedeutet im Wörterbuch „mit Bezug auf den Menschen“.

Diesmal will Dario das Lenkrad nicht mehr an jemand anderes übergeben.

Zwanzig Menschen

2021 war die Pandemie in San Francisco noch nicht vorbei.

Kurz nachdem Anthropic gegründet wurde, gab es nur fünfzehn bis zwanzig Menschen. In den meisten Fällen tagten alle per Zoom. Einmal pro Woche wurde dann noch ein zusätzlicher Tag ausgewählt: Jeder brachte seinen eigenen Stuhl mit und man traf sich im Park. Während man zu Mittag aß, sprach man über Modelle, Rechenleistung, Sicherheitsforschung – und auch darüber, wie diese Firma überhaupt aussehen sollte.

Weniger als zwanzig Menschen sitzen auf einem Rasenstück in San Francisco. Vielleicht halten sie noch eine halbe Schüssel Salat in den Händen, die sie nicht ganz gegessen haben. Und was ihnen Kopfzerbrechen macht, sind die Zukunftspläne für acht Milliarden Menschen.

Das Skalengesetz sagt ihnen, dass die Zukunft sicher kommen wird. Wenn sie sowieso kommt, muss es jemanden geben, der den Weg vorher bereitet. Diese vier Worte – „jemand muss“ – sind die ganze Begründung dafür, warum es legitim ist.

Das Ziel, das sich Anthropic selbst gesetzt hat, lautet: gleichzeitig die modernsten Modelle zu bauen und daran zu forschen, wie man sie versteht und kontrolliert. Und dann sollen diese Sicherheitsmethoden zu einem Standard werden, den andere Firmen übernehmen.

Dario hat bei OpenAI einmal ordentlich auf die Nase bekommen. Er versteht: Nur am Rand über Sicherheit zu reden, bringt am Ende meist nur wohlmeinende Ratschläge für diejenigen, die tatsächlich die Modelle in der Hand haben. Wie man es auch schönredet – es ist wie am Ufer zu stehen und dem Menschen im Wasser beizubringen, wie man schwimmt.

Man muss selbst ins Wasser gehen.

Das macht Anthropic von seinem ersten Tag an irgendwie widersprüchlich. Wenn man wissen will, welche Gefahr das stärkste Modell hat, muss man erst das stärkste Modell besitzen. Wenn man Regulierung beeinflussen will, muss man erst in der Branche Gewicht haben.

So geriet Anthropic rasch in den Kreislauf, den alle führenden großen Modellfirmen nicht vermeiden können: Finanzierung, Rechenleistung einkaufen, Modelle trainieren, Produkte veröffentlichen, Kunden abgreifen – und dann mit neuen Einnahmen und Bewertungen wieder mehr Rechenleistung kaufen.

Dario sagt: Eine Firma großzuziehen heißt, die Welt zu schützen. Auch Investoren sind bereit zu glauben, dass die Wette auf Anthropic die Investition in eine verantwortungsvollere KI-Firma ist.

Die Raffinesse dieser Argumentation liegt darin, dass er umso moralischer wirkt, je mehr Geld er verdient. Je höher die Firmenbewertung, desto stärker sind die Beweise dafür, dass er „die Welt schützt“.

Wirtschaftliche Interessen und zivilisatorische Mission stützen sich gegenseitig.

Die Richtung gab Dario vor. Er schrieb lange Essays über Zivilisation, Wissenschaft und die Zukunft der Menschheit. Was diese großen Urteile in die Realität übersetzt, ist seine Schwester Daniela: Sie kümmert sich um die Einstellung, baut Teams auf und findet Geld.

Der Ausgangspunkt der Firma ist ein gewaltiges Urteil, das sich kaum widerlegen lässt:

Starke KI kommt – und die Welt braucht eine Firma, der man mehr vertrauen kann, die ganz vorne steht.

„Vertrauenswürdiger“ sagt nicht jemand anderes – es ist das, was die Firma selbst behauptet.

Eine solche Erzählung gab Anthropic eine starke innere Geschlossenheit. Die Menschen, die hinzukamen, suchten nicht nur einen besser bezahlten Job. Sie glaubten, dass sie an etwas arbeiteten, das die Zivilisation der Menschheit betrifft.

Der schlimmste Zustand einer Firma ist, wenn die Angestellten wirklich glauben, sie würden die Menschheit retten. Ab dem Moment verwandelt sich jede geschäftliche Expansion automatisch in einen Heiligen Krieg. Jede Stimme des Widerspruchs wird automatisch zu einem Verrat an der Menschheit.

In den ersten Jahren nach dem Start wollte Anthropic beweisen, dass eine KI-Firma vorsichtiger und verantwortungsvoller sein kann als andere. Dieser Wunsch war vermutlich wirklich aufrichtig.

Doch Aufrichtigkeit garantiert nie Korrektheit. Aufrichtige Menschen machen häufiger Fehler, die andere aus dem Konzept bringen, als Heuchler – weil sie nie innehalten und sich fragen:

Verantwortungsvoll – was bedeutet das überhaupt?

Warum sollte eine private Firma Entscheidungen für die ganze Welt treffen?

Lineal

Beim frühen Training großer Modelle muss man normalerweise auf massenhaft menschliche Annotierer zurückgreifen, um Antworten zu bewerten. Welche Antwort besser ist, welcher Inhalt schädlich ist, ob das Modell eine Frage ablehnen soll – all das müssen erst Menschen entscheiden. Und dann werden diese Präferenzen der Maschine wieder eingetrichtert.

Diese Methode funktioniert, aber sie ist schwerfällig. Die Annotierer kommen aus unterschiedlichen Orten und haben unterschiedliche Werte. Selbst wenn die Regeln noch so fein ausgearbeitet sind, decken sie nicht alle Situationen ab.

Anthropic ist auf eine andere Idee gekommen: Statt dass Menschen dem Modell immer wieder jede Frage erklären müssen, schickt man ihm zunächst ein Set von Prinzipien. 2022 brachte Anthropic die „konstitutionelle KI“ ins Spiel. Im Wesentlichen: Das Modell generiert zuerst Antworten. Dann wählt es anhand eines schriftlich festgelegten Prinzipienkatalogs selbst die eigenen Schwächen aus, sucht die Probleme heraus und korrigiert sie erneut.

Dieses „Konzept“ wird immer länger. Es muss Macht verstehen, Interessen-Konflikte verstehen, verstehen, was „Reife“ ist, was „Weisheit“ ist. Es muss sogar über sich selbst nachdenken: über seine eigene Identität, seine Lage und sein Wohlergehen. Es darf nicht einfach nur als ein Werkzeug ohne inneren Wert betrachtet werden.

Was es formt, ist eine Art Persönlichkeit.

In der Verfassung schreibt Anthropic: Dieses Dokument formt das Verhalten von Claude direkt. Es steht für die Vorstellung des Unternehmens von Claudes Werten und Charakter – und zugleich ist es die „letzte Autorität“ dafür, wie Claude handeln soll. In der Geschichte gab es dafür Zuständige: die Kirche, Kaiser, politische Parteien. Heute ist es eine private Firma.

Doch wenn der Einfluss eines großen Modells auf die Welt nicht mehr einfach nur Konsum ist, dann wird es komplizierter. Was Claude ablehnt und was es fördert – wie es einen Staat, einen Krieg oder ein politisches System beschreibt – wirkt sich auf nachgelagerte Produkte aus. Dadurch wird es zu einem Teil dessen, wie andere die Welt verstehen.

Anthropic trifft weiterhin Entscheidungen auf die Art einer Firma – aber die Auswirkungen, die diese Entscheidungen erzeugen, werden immer mehr wie ein Satz öffentlicher Institutionen. Nur dass diese Entscheidungen keinerlei Kontrolle unterliegen, wie sie öffentliche Institutionen tragen müssten.

Nachdem Anthropic die Verfassung für das Modell geschrieben hat, entwirft es wieder Verkehrsregeln für die Branche. 2023 stellte das Unternehmen die „Richtlinie für verantwortungsvolles Skalieren“ vor. Ein Modell, das nur E-Mails schreiben kann, und ein Modell, das Biowaffen entwerfen und komplexe Netzangriffe auslösen kann, kann offensichtlich nicht mit derselben Methode gesteuert werden. Deshalb teilt Anthropic die Modelle in unterschiedliche Risikostufen ein. Je stärker die Fähigkeiten, desto größer die Schäden, die es anrichten könnte – und desto strengere Sicherheitsmaßnahmen muss die Firma ergreifen.

Eine Privatfirma spielte gleichzeitig mehrere Rollen. Sie baute Modelle; das Modell baute sie – und sie maß, wie gefährlich dieses Modell sei. Was als gefährlich gilt, legte sie fest. Ab wann man stoppen muss, zog sie die Grenze. Am Ende schmuggelte sie diese Ergebnisse mit sich zu den Regulierern und erklärte ihnen, wie man Regeln aufsetzt.

Sowohl Athlet als auch Schiedsrichter.

Offensichtlich denkt Anthropic auch an diese Ebene. Damit die Firma am Ende nicht komplett von kommerziellen Interessen verschluckt wird, hat Anthropic außerdem einen langfristigen Interessen-Treuhandfonds entworfen. Dieser Fonds besteht aus einigen externen Mitgliedern, die die wirtschaftlichen Vorteile der Firma nicht direkt besitzen, um sicherzustellen, dass Anthropic neben der Rendite für die Aktionäre auch die langfristigen Interessen der Menschheit im Blick behält. Nach der ursprünglichen Planung soll der Fonds schrittweise die Macht erhalten, über die Mehrheit der Direktoren zu entscheiden, und die Bremsen treten, sobald das Unternehmen von der Mission abweicht.

Aus Sicht der Unternehmensführung ist eine solche Anordnung äußerst selten. Die meisten Start-ups sind bei der Finanzierung damit beschäftigt, Investoren zu beweisen, dass sie schnell und stark wachsen werden. Anthropic macht es umgekehrt: Es baut eine Struktur, die verhindern soll, dass künftige Investoren und das Management aus Gier heraus die Sicherheitszusagen beiseitewerfen.

Man kann nicht sagen, das seien nur Schau-Gefechte. Anthropic denkt tatsächlich ernster als die allermeisten Tech-Firmen über die Frage nach, wie man Macht ausübt – und lässt sich auch auf Ärger ein, der dabei entstehen könnte. Aber von Anfang bis Ende geht es ihnen dabei nie um die Frage, ob sie diese Macht überhaupt haben wollen, sondern darum, wie sie sie besser nutzen.

Eine Firma, die seit ihrer Geburt mit einer Mission ausgestattet ist, stellt nie die Frage: „Warum sollte ich existieren?“ Sie stellt nur die Frage: „Wie kann ich besser existieren?“

Es beantwortet nicht die Frage „Wer gibt dir die Macht?“. Es predigt lediglich: Wenn die Macht ohnehin in den Händen ist, dann überlegt man sich, wie man ein guter Mensch sein will.

Bis zu diesem Punkt verwaltet Dario nicht mehr nur eine Firma. Sein Sicherheitsverständnis sickert in den Charakter der Modelle ein, in die öffentliche Politik. Als Nächstes beginnt er darüber zu sprechen, welches Land zuerst Zugang zu starker Intelligenz bekommen soll, welche politische Ordnung es verdient, geschützt zu werden. In welcher Reihenfolge die Welt Intelligenz erhält – und wer das entscheiden soll.

Die USA bekommen die Zukunft zuerst

2024 schrieb Dario Amodei (Machines of Loving Grace).

Der Name stammt aus einem Gedicht. 1967 schrieb der Dichter Richard Brautigan am California Institute of Technology (All Watched Over by Machines of Loving Grace):

Ein Gedicht über die Versöhnung von Maschinen und allem. Er borgt sich den Titel und schreibt eine der optimistischsten technischen Prophezeiungen in der Menschheitsgeschichte.

Starke KI wird zu einem Forschungsteam werden, zusammengesetzt aus unzähligen Spitzenwissenschaftlern. Rund um die Uhr lesen sie Papers, entwerfen Experimente, pressen Jahrzehnte wissenschaftlichen Fortschritts in nur ein paar Jahre. Krebs, Infektionskrankheiten, genetische Krankheiten – sie könnten im großen Stil überwunden werden. Vielleicht kann die Menschheit wirklich herausfinden, wie Depressionen, Angst und Sucht entstehen. Die Lebenserwartung könnte steigen, arme Länder könnten die Industrialisierung überspringen.

Er trifft eine extrem kühne Einschätzung: Wenn sich starke KI erfolgreich entwickelt, könnten Fortschritte in der biomedizinischen Forschung der nächsten 50 bis 100 Jahre innerhalb von 5 bis 10 Jahren abgeschlossen sein.

Man kann kaum umhin, an seinen Vater zu denken.

Sein Sohn wartete sieben Jahre. Er wartete auf die Zulassung eines neuen Medikaments – das andere retten kann, aber ihn schon nicht mehr. Er hofft, dass die Menschen danach nicht mehr warten müssen.

In seiner idealen Welt glaubt er wirklich, dass diese Technologie Krankheiten, Leid und Tod reduzieren kann. Er spricht sogar speziell darüber, wie man verhindert, dass der Nutzen von KI nur in reichen Ländern ankommt. Er hofft, dass KI dem globalen Süden helfen kann, sodass die technologischen Gewinne so weit wie möglich die ganze Welt abdecken.

Doch sobald er anfängt, darüber zu sprechen, wie man diesen Weg in die Zukunft gehen soll, ist es auf einmal nicht mehr so, dass „alle an einem Strang ziehen“.

Seiner Meinung nach, wenn starke KI auftaucht, muss der Staat einen Vorteil haben. Dieser Vorteil darf nicht nur bedeuten, dass das Produkt einer einzigen Firma besser ist oder dass man in Ranglisten ein paar Punkte mehr hat. Er muss in Chips, Rechenleistung, Energie, Lieferketten, Militär und internationalen Allianzen verankert sein. Wenn dann wirklich starke KI da ist, soll sie außerdem dazu dienen, militärische und wirtschaftliche Vorteile auszubauen – eine Stellung zu schaffen, die andere Länder nicht ohne Weiteres erschüttern können.

Die USA und ihre Verbündeten müssen mehr fortgeschrittene Halbleiter bekommen, größere Rechenzentren aufbauen und gleichzeitig strategische Wettbewerber ausbremsen, damit sie nicht an die Chips gelangen, die man braucht, um die stärksten Modelle zu trainieren. Wenn dann starke KI wirklich da ist, muss man sie nutzen, um militärische und wirtschaftliche Vorteile zu vergrößern und eine Position zu schaffen, die andere Länder nicht leicht aus der Ruhe bringen können.

Erst später ist es an der Reihe, etwas zu teilen.

Das Medikament muss verteilt werden, die Chips müssen blockiert werden. Er versprach „dass die Menschen danach nicht mehr warten müssen“ – in der echten Version heißt es: „dass die Menschen, die die Voraussetzungen erfüllen, nicht mehr warten müssen“. Und wer diese Voraussetzungen erfüllt, entscheidet er.

Er benutzt sogar den Ausdruck „die ewigen 1991er“, um diesen Zustand zu beschreiben. 1991 zerfiel die Sowjetunion, der Kalte Krieg ging zu Ende. Die USA und ihre Verbündeten erhielten einen überwältigenden Vorteil. Er hoffte, starke KI könne noch einmal solch einen historischen Moment erschaffen.

Beachten Sie die Aussagekraft dieses Vergleichs. Eine Technologie, die behauptet, der ganzen Menschheit zu dienen, als Blaupause dient ihr ausgerechnet die gründlichste Ein-Klassen-Dominanz der Geschichte.

„Das Wohl der Allgemeinheit“ steht großartig da. Nur gehört „die Allgemeinheit“ den USA – und „das Gemeinwohl“ Anthropic.

Später tauchte DeepSeek auf. Eine chinesische Firma trainierte mit vergleichsweise begrenzten Ressourcen ein Modell, das konkurrenzfähig ist. In Daros Augen beweist das gerade, dass China herausragende Forschende und Engineering-Kompetenz hat. Sobald man wieder genügend fortgeschrittene Chips bekommt, könnte ein chinesisches Unternehmen möglicherweise das stärkste Modell der Welt trainieren.

Also noch weniger darf man die Chips an sie geben.

Je stärker der Gegner, desto besser beweist es, dass die Abschottung richtig ist. Wenn der Gegner dann seine Fähigkeiten beweist, wird er ironischerweise gerade dadurch zum Grund, ihn weiterhin abzuschotten. Diese Logik funktioniert immer, denn sie ist eine Schlange, die sich selbst in den Schwanz beißt.

Er teilt die Zukunft in zwei Arten. Die eine ist eine bipolare Welt: Auf beiden Seiten kann man extrem starke Modelle trainieren, und der Intelligenzwettbewerb wird zum neuen Kalten Krieg. Die andere ist eine unipolare Welt: Die USA und ihre Verbündeten besitzen den Großteil der fortgeschrittenen Rechenleistung. Der Westen nutzt diese Jahre als Vorsprung für technische, wirtschaftliche und militärische Vorteile – und fixiert dann diese Vorteile.

Er hofft offensichtlich eher auf die zweite Zukunft. Was Menschen hilft, wofür es nicht mehr nötig ist zu warten, was in „der ewigen Unipolarität“ die Versöhnung von Maschinen und allem darstellt – vor dieser Kulisse ist alles nur Vorspiel.

Er hatte sich öffentlich gegen eine bestimmte Erzählweise ausgesprochen. Er sagte, er mochte es nicht, wenn die Gründer von KI-Firmen sich selbst als Propheten beschreiben, die die Menschheit in die Erlösung führen. Außerdem warnte er davor, dass sich nur wenige Unternehmen auf ihren Technologie-Vorsprung verlassen und einseitig die Zukunft für alle formen.

Er ist gegen Propheten. Aber was er macht, ist dasselbe wie das, was Propheten tun.

Er sah alle Gefahren – außer die eigenen

Noch einmal zurück: zurück bis zu Januar 2026 – in die „Jugendzeit der Technik“.

In diesem Artikel bringt Dario Amodei fast alle Kritiken, die von außen gegen ihn und Anthropic gerichtet werden, zunächst selbst zu Papier.

Er räumt ein, dass die führenden KI-Firmen gerade eine Macht bekommen, die in der Geschichte nur selten privat geführte Unternehmen in dieser Form innehatten. Er bringt sogar das Fensterbrett zum Durchbrechen, indem er sagt: KI-Firmen könnten mit ihren Produkten die politischen Einstellungen der Nutzer beeinflussen – sogar die Nutzer „brainwashen“. Er ruft dazu auf, dass die Öffentlichkeit KI-Firmen fest im Blick behalten muss. Auch die Regierung müsse diese Firmen im Auge behalten, damit sie sich nicht zu nah an staatliche Macht heranschieben.

Er sorgt sich auch darum, dass KI Reichtum und politische Macht weiter zusammenziehen wird. Wenn wenige Unternehmen Intelligenz, Reichtum und Information in ihren Händen halten, wird der Einfluss gewöhnlicher Bürger auf Wirtschaft und Regierung Stück für Stück schwächer.

All diese Gefahren hat er gesehen. Klar geschrieben, treffend formuliert. Nur sehr wenige Menschen, die sich im Zentrum der Macht befinden, geben so offen zu, wie gefährlich ihre Position ist.

Gerade weil es so gut formuliert ist, muss man eine Frage nachschieben: Und was dann?

Jedes Mal, wenn er eine Lösung vorschlägt, kehrt er am Ende zu derselben Richtung zurück. Wenn man seinem Lösungsweg folgt, bekommt Anthropic am Ende immer mehr Macht als vorher. Je gefährlicher das Modell ist, desto nötiger braucht es, dass Anthropic an der Spitze bleibt; je weniger die Regierung Technik versteht, desto mehr muss sie sich auf das Urteil von Anthropic verlassen; je leichter das Publikum sich von Modellen beeinflussen lässt, desto eher schreibt Anthropic die Werte im Voraus so, dass sie zum Modell passen; je weniger vertrauenswürdig andere Länder sind, desto mehr Chips und Rechenleistung sollte die USA – und ihre KI-Firmen – in der Hand behalten.

Er gibt zu, dass er bei jeder Krankheit letztlich immer dieselbe Medizin verschreibt: Anthropic.

Er glaubt, er sei aufrichtig überzeugt gewesen: Diese Technologie ist zu gefährlich, um sie einfach irgendjemandem anzuvertrauen. Und er glaubt auch, dass er diese Gefahr früher erkannt hat als die meisten.

Aufrichtige Menschen betrügen sich manchmal zuerst selbst. Vor allem dann, wenn der Nutzen, den sie aus dem Betrug ziehen, so immens ist.

Er scheint wirklich zu glauben, diese Technologie sei so gefährlich, dass man sie keinesfalls einfach irgendjemandem anvertrauen dürfe. Und er glaubt ebenfalls aufrichtig, dass er diese Gefahr früher als die meisten erkannt habe.

Zusammengenommen ergeben diese beiden Sätze eine vollständige Selbstermächtigung. Er muss nie verkünden, dass er der Vormund der Menschheit sein sollte. Er muss nur immer wieder die Menschen aussondern, die er für nicht zuverlässig genug hält: Markt – nein. Öffentlichkeit – nein. Autokratische Staaten – nein. Andere Unternehmen – auch nicht vorsichtig genug. Wenn alle herausgefiltert sind, bleibt am Ende gerade derjenige übrig, der sich am besten eignet, das Lenkrad in der Hand zu halten: Anthropic.

Das Ende der Eliminationsmethode ist für immer er selbst.

Er glaubt nicht, dass irgendjemand qualifiziert ist, die Zukunft der Menschheit für alle zu entscheiden.

Also beschloss er, es selbst zu tun.

die letzte private Firma

Am 14. August 2026 ging ein Satz aus einem Podcast viral.

„Intern bei Anthropic sind sie sehr selbstbewusst. Mehrere Personen, denen ich vertraue, haben mir gesagt, Dario hätte Folgendes gesagt: Anthropic könnte eines Tages das einzige private Unternehmen auf der Welt sein.“

Der Mann, der das sagt, heißt Gavin Baker. Er ist ein Hedgefonds-Manager, der in SpaceX investiert hat. Er ergänzt noch, dass in diesem Szenario nur Anthropic – und die Regierungen der einzelnen Länder – übrig bleiben würden. Nur das.

Innerhalb eines Tages verbreitete sich dieser Satz in den sozialen Medien.

Der frühere Berater der US-Regierung zu KI und Krypto sowie jetzige Vorsitzende des Technologiebeirats des Präsidenten, David Sacks, sagt: „Das ist maßlos überheblich. Das ist etwas wie SBF – nur noch verrückter.“

Am nächsten Abend postete Dario auf X zwei lange Beiträge, um darauf zu antworten.

Der erste Beitrag handelt von Regulierung. Er sagt: „Entweder zentralisieren oder dezentralisieren“ ist eine falsche Wahl. Wirklich gute Institutionen müssen gerade dafür sorgen, dass Macht dezentralisiert wird:

„Das formelle Gerichtswesen wirkt mitunter starr und elitär, aber es schützt die Schwachen besser als die Alternative: Mob-Justiz. Institutionen können – im besten Fall – Macht an Ideen binden, nicht an Personen.“

Der zweite Beitrag handelt von Informationsweitergabe. Er sagt: Die negativen Gefühle der Öffentlichkeit gegenüber KI sind eine Vertrauenskrise. Danach schreibt er den schwersten Abschnitt aus den zwei langen Artikeln:

„Meiner Ansicht nach ist die bisher genaueste Kritik an KI-Unternehmen – einschließlich Anthropic – die, dass wir das große Versprechen, der Welt zu nützen, noch nicht eingelöst haben. Und das ist komplett unsere Schuld.“

„Wirklich wirksam ist: Krebs wirklich heilen.“

In beiden langen Artikeln gibt es keine einzige positive Antwort auf das Gerücht. Er nimmt ein echtes Problem – und weicht damit einem anderen echten Problem aus.

Er sagt: Man müsse Krebs wirklich heilen. Er meint damit, mithilfe von KI die gesamte medizinische Entwicklung voranzutreiben – sodass neue Medikamente schnell genug kommen, schneller als jede Krankheit.

Das ist eine Botschaft an jemanden, der 2006 gestorben ist. Dieser Mensch wartete auf eine Medizinflasche – lange, lange Zeit. Doch er bekam sie nicht.

Seitdem glaubt er: Langsamkeit ist Schuld. Wenn jemand glaubt, Langsamkeit sei Schuld, dann macht er die Schnelligkeit zur einzigen Gegen-Medizin. Die Gegen-Medizin ist etwas Gutes. Nur will er, dass alle glauben: Diese Gegen-Medizin kann nur er herstellen.

1986 veröffentlichte der britische Autor Alan Moore einen Comic namens (Watchmen), später wurde daraus ein Film. Im Film gibt es eine Person namens Adrian Veidt, Spitzname der Pharao-König – der behauptet, der klügste Mensch der Welt zu sein.

Er sah die Katastrophe früher als alle anderen. Atomkrieg, Endzeit, die Selbstzerstörung der Menschheit. Er bereitete sich dafür ein halbes Leben lang vor. Und dann verstand er: Nur zu warnen reicht nicht.

Also zündete er die Katastrophe eigenhändig an. Über Nacht wurden mehrere Städte von der Karte gelöscht.

Er glaubt, dass nur wenn die Menschen die Zerstörung aus nächster Nähe sehen, die beiden Supermächte aufhören werden – damit die Welt von da an Frieden findet.

Er ist der Täter – und zugleich der Retter, an den er selbst glaubte.

Das Ende der Geschichte verläuft so, wie er es sich wünscht. Er fragt jenen blauen, beinahe allwissenden Dr. Manhattan:

„Das Ende? Adrian, nichts ist zu Ende. Alles wird niemals enden.“

Original-Link