Im Dezember 2020 erzählte Dario Amodei in einer Videokonferenz mit allen Beschäftigten bei OpenAI, dass er und sechs Kollegen das Unternehmen verlassen würden, um eine Firma zu gründen, bei der KI-Sicherheit im Mittelpunkt stehen sollte. Der Chat füllte sich mit überraschten Reaktionen und Abschiedswünschen. Jack Clark schrieb: „Ich liebe euch alle.“ Dann wurden die sieben Bildschirme schwarz. Sie waren aus der Besprechung entfernt worden, ihr Zugang zu den Arbeits-E-Mail-Konten und Slack war gesperrt, ihre Laptops aus der Ferne verriegelt worden.
Noch wenige Stunden zuvor waren sie leitende Forscher und Manager in einem der führenden KI-Labore gewesen. Nun hatten sie keine Jobs, keinen Zugang zu den Bürosystemen und keinen klaren nächsten Schritt. Woher sollten die GPUs kommen? Das Geld? Wie sollte das Unternehmen heißen? Selbst die Frage, ob man für alle neue Laptops kaufen könne, war noch offen. Fast sechs Jahre später heißt das Unternehmen Anthropic, sein Produkt Claude tritt in direkte Konkurrenz zu OpenAI, und die Gründer bereiten den Börsengang vor.
Diese Szene des Weggangs stammt aus einem Auszug aus Kevin Rooses neuem Buch, der in The Atlantic veröffentlicht wurde. Sie ist ein besserer Ausgangspunkt als „Sieben Führungskräfte gründen ein KI-Unternehmen“: Diese Menschen hatten bereits beim Aufbau von Modellen an der technologischen Spitze mitgewirkt und wollten ihre Meinungsverschiedenheiten über Risiko, Tempo und organisatorische Verantwortung in die Regeln eines neuen Unternehmens einschreiben. Quelle: The Atlantic
Warum sie gingen
Der Weggang wird oft auf „OpenAI nahm Sicherheit nicht ernst genug“ verkürzt. Das trifft die Richtung, lässt aber den Rest unter den Tisch fallen. Sicherheit war der zentrale Streitpunkt, doch damit verknüpft waren auch die Fragen, wer über die Veröffentlichung eines Produkts entscheiden konnte, wie das Unternehmen geführt wurde und ob ein Sicherheitsteam noch etwas bewirken konnte, nachdem die KI-Forschung zum kommerziellen Wettrennen geworden war.
Dario war Forschungs-Vizepräsident bei OpenAI. Er stellte Sam Altman Bedingungen für seinen Verbleib, darunter, dem Sicherheitsteam die Befugnis zu geben, Produkteinführungen zu blockieren. Während diese Gespräche noch liefen, richteten die sieben eine private Slack-Gruppe namens BATNA ein – ein Verhandlungsbegriff für „beste Alternative zu einer ausgehandelten Einigung“. Sie verhandelten und bereiteten zugleich ihren Weggang vor. Die Gespräche führten zu keiner Einigung.
Daniela verhandelte im Namen der Gruppe über den Weggang. Beide Seiten zogen Anwälte hinzu und einigten sich auf einen Zeitraum, in dem das scheidende Team Kolleginnen und Kollegen anwerben durfte, sowie auf eine einjährige gegenseitige Vereinbarung, keine Beschäftigten abzuwerben. Dario verkündete die Entscheidung bei der Vollversammlung, und Jack verabschiedete sich im Chat. Die Einzelheiten sind wichtig: Anthropic war keine Gruppe von Starwissenschaftlern, die sich kaum kannten. Sie hatten in derselben Organisation gearbeitet und gemeinsam einen schwierigen Weggang bewältigt.
Als TIME ihn später interviewte, äußerte sich Dario zurückhaltend zu den Gründen für ihren Weggang und betonte gegenseitiges Vertrauen, gemeinsame Werte und eine gemeinsame Mission. Er hat außerdem argumentiert, dass das Risiko von KI eine empirische Frage ist: Man muss ausreichend leistungsfähige Systeme bauen und untersuchen, um herauszufinden, worin die Risiken tatsächlich bestehen. Genau darin liegt der Widerspruch, der Anthropic innewohnt. Das Unternehmen begegnet leistungsfähiger KI mit Vorsicht und glaubt zugleich, selbst leistungsfähige KI vorantreiben zu müssen, um sie untersuchen und kontrollieren zu können. Quelle: TIME über Anthropic
Nichts davon ließ den Konflikt zwischen Sicherheit und Geschäft verschwinden. Der Konflikt verlagerte sich ins Innere von Anthropic. Forschung braucht Größe und Rechenleistung. Sicherheit braucht Zeit, Bewertungen und Zurückhaltung. Kommerzielles Wachstum erfordert Produkte, die sich kontinuierlich verbessern, und Kunden, die sie weiterhin nutzen. Die Gründer entschieden sich gemeinsam nicht dafür, das Wettrennen zu verlassen, sondern ein Labor aufzubauen, das nach eigenen Angaben anders daran teilnehmen wird.
Die Kompetenzen von sechs Gründern greifen wie Zahnräder in einem Forschungszyklus ineinander; Danielas Aufgabe, das Unternehmen zu führen, bildet den äußeren Ring, der alles zusammenhält. Nach öffentlichen Rollen zusammengestellt; keine tatsächliche Berichtslinie.
Sieben Aufgaben, ein Unternehmen
Dario Amodei: wissenschaftliches Urteilsvermögen in die Unternehmensausrichtung überführen. Dario wurde in Physik und Biophysik ausgebildet und arbeitete bei Google Brain und anschließend bei OpenAI, wo er Forschungs-Vizepräsident war, an der Entwicklung großer Sprachmodelle mitwirkte und gemeinsam mit Kollegen an bestärkendem Lernen durch menschliches Feedback arbeitete. Als CEO von Anthropic legt er die Forschungsrichtung und Strategie fest. Sein größter Einfluss liegt weniger in einer einzelnen Technik als in einer Frage, die er auf Organisationsebene immer wieder stellt: Wenn die Fähigkeiten der Modelle wie erwartet zunehmen, welche Sicherheitsvorkehrungen muss das Unternehmen dann zuerst einrichten? In seinen öffentlichen Texten betont er Risiken, beschreibt aber auch große mögliche Vorteile, zum Beispiel in der Biomedizin. Er hält beides gleichzeitig im Blick – ein Grund dafür, dass Anthropic weiter Modelle entwickelt und zugleich untersucht, wie sich deren Fähigkeiten begrenzen lassen. Quellen: Website von Dario Amodei, Führungsteam von Anthropic
Daniela Amodei: Forschung zu einem Unternehmen organisieren, das Produkte auf den Markt bringt. Daniela ist Präsidentin und Aufsichtsratsvorsitzende sowie Darios Schwester. Vor Anthropic arbeitete sie bei Stripe und OpenAI in Funktionen, die Sicherheit und Richtlinien, Personal sowie technische Führung umfassten. Ihr Zuständigkeitsbereich erstreckt sich auf Forschung, Engineering, Produktentwicklung, Unternehmensführung und die kommerzielle Umsetzung; außerdem leitet sie das Führungsteam. Während Dario meist als technische Vision des Unternehmens gilt, besteht Danielas Aufgabe darin, Forschungsorganisation, Produktteams, Kundenanforderungen und Unternehmensregeln gleichzeitig am Laufen zu halten. Ihre Rolle bei den Verhandlungen über den Weggang zeigt, dass sie von Anfang an die organisatorischen Grenzen des Unternehmens festlegte und nicht bloß einen symbolischen Führungstitel innehatte. Quellen: Führungsbiografien im S-1, Führungsteam von Anthropic
Tom Brown: das Training großer Modelle als Ingenieursaufgabe meistern. Tom leitete das Engineering für GPT-3 und ist heute Chief Compute Officer von Anthropic. Er ist für Beschaffung, Ausbau und Nutzung von Rechenleistung zuständig. Außerdem ist er Erstautor des GPT-3-Papers „Language Models are Few-Shot Learners“. GPT-3 mit 175 Milliarden Parametern zeigte, dass größere Modelle viele Aufgaben anhand weniger Beispiele bewältigen können. Hinter dem Paper standen Hardwareplanung, verteiltes Training, Zuverlässigkeit und Kostenkontrolle. Toms Laufbahn verbindet die wissenschaftlichen Ideen hinter Modellen mit der enormen Infrastruktur, die für ihren Betrieb nötig ist. Rechenleistung ist heute kein Budgetposten im Hintergrund; sie bestimmt, wie schnell ein Labor experimentieren kann und wie es gegenüber Wettbewerbern dasteht. Quellen: Gründerbiografien im S-1, GPT-3-Paper
Jared Kaplan: Regelmäßigkeiten zwischen Skalierung und Fähigkeiten erkennen. Jared ist theoretischer Physiker und Chief Science Officer bei Anthropic. In „Scaling Laws for Neural Language Models“, das er zusammen mit Dario, Tom, Sam und anderen verfasst hat, untersuchte er, wie Parameter, Daten und Rechenleistung beim Training den Verlust eines Modells beeinflussen. Die empirisch beobachteten Regelmäßigkeiten helfen Forschern abzuschätzen, wie zusätzliche Rechenleistung zwischen Modellgröße und Daten aufgeteilt werden sollte. Die Arbeit hat nicht bewiesen, dass eine bestimmte Fähigkeit zwangsläufig entsteht, wenn man Modelle einfach größer macht, und sie ersetzt keine Experimente. Sie bietet einen überprüfbaren Rahmen, damit Experimente an der technologischen Spitze nicht reines Rätselraten sind. Jared leitet heute die technische Forschung bei Anthropic und verbindet Grundlagenforschung, Modellentwicklung und KI-Sicherheit. Quellen: Johns Hopkins University, Paper zu Skalierungsgesetzen
Sam McCandlish: den Forschungszyklus schneller und zuverlässiger machen. Sam ist Physiker und baute bei OpenAI das Team auf und leitete es, das die Wissenschaft des maschinellen Lernens und der Skalierung untersuchte. Außerdem war er Mitautor des Papers zu den Skalierungsgesetzen. Anthropic führt ihn als Chief Architect, zuständig für Vortraining, Forschungsproduktivität und Infrastruktur für bestärkendes Lernen. Ein großes Modell zu trainieren bedeutet nicht, einfach einen Knopf zu drücken. Teams führen immer wieder Experimente durch, spüren Fehlern nach, vergleichen Ergebnisse und verwenden Systeme erneut. Sams Spezialgebiet ist die Infrastruktur für diesen Zyklus. Tom konzentriert sich auf die Rechenressourcen und deren Organisation; Sam arbeitet näher an der Trainingspipeline und den Forschungswerkzeugen. Beide sind aufeinander angewiesen, um Ressourcen in Fortschritte bei Modellen umzusetzen. Quellen: Gründerbiografien im S-1, Führungsteam von Anthropic
Chris Olah: den Blick in die Blackbox öffnen. Chris Olah ist einer der frühen Wegbereiter der mechanistischen Interpretierbarkeit. Er arbeitete bei Google Brain, leitete die Interpretierbarkeitsforschung bei OpenAI und gründete die Fachzeitschrift Distill mit. Sein Ziel beschreibt er als Reverse Engineering neuronaler Netze, um sie in für Menschen verständliche Algorithmen zu überführen. Anthropics Forschung zu Claude hat Millionen von Konzeptmerkmalen identifiziert. In einer bekannten Demonstration verstärkten Forscher ein Merkmal für die „Golden Gate Bridge“. Daraufhin begann das Modell, sich bei allen möglichen Fragen als Golden Gate Bridge zu beschreiben. Die Demonstration machte abstrakte Forschung anschaulich und zeigte zugleich, dass sich das Verhalten eines Modells verändern und seltsam werden kann, wenn seine internen Repräsentationen künstlich beeinflusst werden. Olahs Fachgebiet hat Modelle nicht vollständig transparent gemacht, aber neue Methoden hervorgebracht, um zu untersuchen, wie sie intern funktionieren. Quellen: Website von Chris Olah, Forschung von Anthropic
Jack Clark: die Sprache des Labors in Fragen für die Öffentlichkeit übersetzen. Jack war als Technologiejournalist tätig und berichtete über Supercomputer, neuronale Netze und fortgeschrittene Technologien, bevor er zu OpenAI wechselte, um dort die Bereiche Richtlinien und Kommunikation zu leiten. Heute ist er bei Anthropic für den öffentlichen Nutzen zuständig und leitet das Anthropic Institute, das die gesellschaftlichen Auswirkungen von KI an der technologischen Spitze untersucht. Sein Hintergrund unterscheidet sich von dem der technischen Gründer: Während Ingenieure über Evaluierungen und Trainingsumfang sprechen, muss Jack diese Ideen mit Politik, Arbeitsplätzen, nationaler Sicherheit und dem öffentlichen Verständnis verknüpfen. Seine journalistische Erfahrung schlägt eine Brücke zwischen dem Unternehmen und der Außenwelt, ersetzt aber keine technische Arbeit. Ein Unternehmen, das das öffentliche Interesse erforscht, muss sich auch einer Glaubwürdigkeitsprüfung stellen: Wer bestimmt die Forschungsagenda, und können die Schlussfolgerungen unabhängig von den kommerziellen Interessen des Unternehmens bestehen? Quellen: Gründerbiografien im S-1, Führungsteam von Anthropic
Zusammen decken die sieben Forschungsrichtung, Betriebsabläufe, Rechenleistung, Grundlagenforschung, Trainingssysteme, interne Modellstrukturen und öffentliche Politik ab. Das heißt nicht, dass jeder einen eigenen Bereich für sich verwaltet. Die Forschungsagenda bestimmt den Bedarf an Rechenleistung; die Infrastruktur legt das Tempo von Experimenten fest; Erkenntnisse über das Modellverhalten fließen in Sicherheitsbewertungen ein; Politik und Unternehmensführung bestimmen, wie das Unternehmen der Außenwelt Rechenschaft ablegt. Anthropics früher Vorteil könnte durchaus darin liegen, dass all diese Funktionen von Menschen aufgebaut wurden, die bereits zusammengearbeitet hatten, statt sie erst nach dem Wachstum des Unternehmens hinzuzufügen.
Von den 2020 bei OpenAI verfassten Papers bis zur geänderten S-1-Einreichung im November 2026. Die sieben kündigten ihren Weggang im Dezember 2020 an; Anthropic wurde 2021 gegründet.
Sicherheitsverpflichtungen in die Regeln schreiben
Die Gründer verließen OpenAI mit einem Forschungsplan und zugleich mit der Absicht, die rechtliche und organisatorische Struktur des Unternehmens zu verändern. Anthropic ist eine gemeinnützige Kapitalgesellschaft, deren Unternehmenszweck die „verantwortungsvolle Entwicklung und Pflege fortgeschrittener KI zum langfristigen Nutzen der Menschheit“ festschreibt. Außerdem gründete das Unternehmen einen Long-Term Benefit Trust, dessen Treuhänder keine finanziellen Anteile am Unternehmen haben und der über eine besondere Aktienklasse Einfluss auf den Vorstand nimmt.
In der geänderten Börsengangseinreichung hält die Founder LLC außerdem eine einzelne Aktie der Klasse F, wodurch die sieben Gründer bei allgemeinen Abstimmungen der Aktionäre 50,1 % der Stimmen erhalten. Das ist eine bedeutende Regelung zur Kontrolle durch die Gründer. Die Governance-Struktur bedeutet jedoch nicht, dass „die Gründer alles entscheiden“. Die 50,1 % gelten für allgemeine Aktionärsabstimmungen, darunter die Wahl von Direktoren, die keine Direktoren der Klasse T sind. Der Long-Term Benefit Trust hat über Aktien der Klasse T grundsätzlich die Befugnis, die Direktoren der Klasse T zu wählen und abzuberufen; diese bilden die Mehrheit des Vorstands. Wirtschaftliches Eigentum, Aktionärsstimmen und Vorstandssitze werden durch unterschiedliche Mechanismen verteilt. Diese Trennung bildet das System gegenseitiger Kontrolle, das Anthropic aufzubauen versucht. Quelle: geänderte S-1-Einreichung, 10. November
Die Gestaltung der Unternehmensführung kann die Hürden für eine Entscheidung verändern. Ein gutes Ergebnis kann sie nicht garantieren. TIME berichtete, dass sich Anthropic im Rahmen seiner Richtlinie für verantwortungsvolle Skalierung verpflichtet hat, Veröffentlichungen zurückzuhalten, wenn ein Modell bestimmte Fähigkeitsgrenzen überschreitet, bevor entsprechende Sicherheitsmaßnahmen bereitstehen. Das Unternehmen argumentiert, dass die Untersuchung leistungsfähiger Modelle selbst notwendig ist, um Risiken zu verstehen und Regeln zu formulieren. Kritiker fragen, wie standhaft diese selbst auferlegten Grenzen bleiben, wenn Umsatz, Investoreninteresse und Wettbewerb zunehmen. Quelle: TIME über Anthropics Struktur
Links, Kontrolle: Die Gründer verfügen über die Stimmen der Aktionäre, und der Trust wählt den Großteil des Vorstands. Rechts, Geld: Jeder Gründer plant, Aktien im Wert von etwa 250 Millionen Dollar zu verkaufen – rund 1,4 % der von Bloomberg geschätzten Vermögen. Die Zahlen basieren auf dem Mittelwert der Preisspanne in der Einreichung.
Das ist keine abstrakte Debatte über Unternehmensführung. Je erfolgreicher Claude ist, desto mehr Rechenleistung, Fachkräfte und Kunden braucht Anthropic. Je mehr davon das Unternehmen hat, desto mehr Sicherheitsforschung kann es sich leisten – und desto häufiger gerät es in Konflikte zwischen Wachstumstempo, Produkteinführungen und Risikomanagement. Das Problem, zu dessen Lösung das Unternehmen gegründet wurde, wird schwieriger, sobald es im großen Maßstab arbeitet.
Vermögen aus dem Börsengang – und eine Bewährungsprobe
Aus der geänderten Einreichung vom 10. November 2026 geht hervor, dass jeder der sieben Gründer plant, beim Börsengang etwa 3,38 Millionen Aktien zu verkaufen. Beim Mittelwert von 74 Dollar innerhalb der Preisspanne von 70 bis 78 Dollar entspricht das etwa 250 Millionen Dollar pro Person und insgesamt etwa 1,75 Milliarden Dollar für alle sieben. Bloomberg schätzt unter Berufung auf den Bloomberg Billionaires Index das Vermögen jedes Gründers auf etwa 18 Milliarden Dollar. Der geplante Verkauf ergibt sich aus der Anzahl der Aktien multipliziert mit einem angenommenen Preis; das Vermögen ist eine Schätzung des Wertes aller Besitztümer einer Person. Bei keinem der beiden Beträge handelt es sich um bereits erhaltenes Bargeld, und die sieben besitzen nicht dieselben Vermögenswerte. Quellen: geänderte S-1-Einreichung, Bloomberg
Neben dem Vermögen gibt es ein Versprechen. Bei der Gründung des Unternehmens sagten die Mitgründer zu, 80 % ihrer Anthropic-Anteile für wohltätige Zwecke zu spenden. Aus der geänderten Einreichung geht hervor, dass das Unternehmen bereits 5 % seiner Aktien in den Anthropic Public Benefit Fund eingebracht hat; Jack Clark und Buddy Shah sind dessen erste Verwalter. In einer Ankündigung im Oktober schätzte das Unternehmen, dass diese Regelungen zusammen mit einem Spendenprogramm für Mitarbeiteraktien letztlich etwa 20 % seiner Aktien dem öffentlichen Wohl zugutekommen lassen würden. Aus der Einreichung geht außerdem hervor, dass das Versprechen der Gründer, 80 % zu spenden, freiwillig und widerruflich ist und keine rechtlich bindenden Verpflichtungen begründet. Wie schnell das Geld gespendet wird und wohin es fließt, wird von künftigen Angaben abhängen. Quellen: Ankündigung des Anthropic Public Benefit Fund, The Chronicle of Philanthropy
Auch der Umfang von „sieben Mitgründern“ lässt sich leicht missverstehen. In Anthropics öffentlicher Liste und der Founder LLC stehen Dario, Daniela, Tom, Jack, Jared, Sam und Chris. Ben Mann spielte früh eine wichtige Rolle und wird oft als Mitgründer bezeichnet, doch aus der Einreichung geht hervor, dass er kein Mitglied der Founder LLC ist. Die „sieben“ in den Nachrichten beziehen sich auf die Personen in dieser Gründer-Stimmrechtsstruktur, nicht auf eine vollständige Rangliste der frühen Mitwirkenden. Quelle: Gründerangaben im S-1
Erzählt man diese Geschichte nur anhand des durch den Börsengang entstandenen Vermögens, wird daraus schnell eine Geschichte über sieben neue Milliardäre, die den Erlös unter sich aufteilen. Die bessere Frage ist, ob das organisatorische Problem, dessen Lösung sie zum Verlassen eines führenden Labors bewog, tatsächlich gelöst wurde. Wenn KI-Fähigkeiten und Unternehmensumsätze gleichzeitig schneller wachsen: Wer hat dann die Befugnis, „Wartet“ zu sagen? Können interne Sicherheitsbewertungen einem Marktzeitplan standhalten? Wie wird das gemeinnützige Eigenkapital zu Ergebnissen, die die Öffentlichkeit sehen kann?
Die sieben gaben Anthropic eine ungewöhnliche Mischung: Menschen, die große Modelle von Hand trainiert hatten, Menschen, die die Kosten für Rechenleistung verstanden, Menschen, die Regelmäßigkeiten und interne Strukturen von Modellen untersuchten, sowie Menschen, die die Organisation führten und mit der Öffentlichkeit kommunizierten. Das von ihnen aufgebaute Unternehmen hat gezeigt, dass sich eine Sicherheitsgeschichte mit kommerziellem Wettbewerb vereinbaren lässt. Die nächste Herausforderung besteht darin, zu zeigen, dass es sich dabei nicht nur um ein Ideal der Frühphase handelt und dass es auch dann Bestand hat, wenn Umfang, Gewinn und Macht allesamt schnell wachsen.