À la fin de l’année 2020, lors d’une réunion virtuelle réunissant tout le personnel d’OpenAI, Dario Amodei a annoncé qu’il allait partir avec six collègues pour créer une nouvelle entreprise plaçant la sécurité de l’IA au cœur de ses priorités. Le chat de la réunion s’est rempli de messages de surprise et d’adieux. Jack Clark a écrit : « Je vous aime tous. » Puis, les écrans des sept se sont soudain éteints : ils ont été exclus de la réunion, leurs accès à leur messagerie professionnelle et à Slack ont été révoqués, et leurs ordinateurs portables ont été verrouillés à distance.
Quelques heures plus tôt, ils étaient encore des figures de premier plan de la recherche et de la direction d’un laboratoire d’IA réputé. Quelques heures plus tard, ils avaient perdu leur poste, leurs accès aux systèmes de l’entreprise et toute visibilité sur la suite. Où trouver des GPU, où trouver de l’argent, quel nom donner à la nouvelle entreprise, et même comment acheter de nouveaux ordinateurs pour tout le monde : rien de tout cela n’était réglé. Près de six ans plus tard, cette entreprise s’appelle Anthropic, son produit Claude rivalise désormais directement avec OpenAI, et ses fondateurs s’apprêtent à introduire l’entreprise en bourse.
Ce récit du départ est tiré d’un extrait du nouveau livre de Kevin Roose publié par (The Atlantic). Il donne à l’histoire d’Anthropic un point de départ plus juste que « sept dirigeants créent une entreprise d’IA » : un groupe de personnes ayant déjà participé au développement de modèles de pointe tente d’inscrire dans les règles d’une nouvelle entreprise ses désaccords sur les risques, la vitesse et la responsabilité organisationnelle. Source : (The Atlantic)
Pourquoi ils sont partis
Le départ des sept est souvent résumé par : « parce qu’OpenAI n’accordait pas assez d’importance à la sécurité ». Cette formule cerne bien l’idée générale, mais en efface la complexité. Les désaccords sur la sécurité étaient bel et bien au cœur du problème, mais celui-ci portait aussi sur les personnes habilitées à décider du lancement des produits, sur la gestion de l’entreprise et sur la capacité réelle de l’équipe chargée de la sécurité à peser sur les décisions, alors que la recherche en IA devenait une course commerciale.
À l’époque, Dario était vice-président de la recherche chez OpenAI. Il a proposé à Sam Altman des conditions pour rester, notamment que l’équipe chargée de la sécurité ait le pouvoir de bloquer le lancement de produits. Alors que les négociations étaient encore en cours, les sept avaient déjà créé un groupe Slack privé nommé BATNA. Cet acronyme, issu du vocabulaire des négociations commerciales, signifie « meilleure solution de rechange en cas d’échec des négociations » : tout en négociant leurs conditions, ils préparaient une porte de sortie. Les négociations n’ont finalement pas abouti à un accord.
Daniela a représenté le groupe lors des négociations de départ. Les deux parties ont chacune fait appel à des avocats et ont fini par convenir d’une période pendant laquelle ils pourraient recruter des collègues, ainsi que de clauses interdisant le débauchage réciproque pendant un an. Dario a annoncé la décision lors d’une réunion générale, et Jack a laissé un message d’adieu. Ces détails nous rappellent qu’Anthropic n’est pas un projet monté à la hâte par quelques scientifiques vedettes qui ne se connaissaient pas : ils avaient travaillé au sein de la même organisation et vécu ensemble un départ collectif difficile.
Lors d’un entretien accordé plus tard à TIME, Dario s’est exprimé avec beaucoup de retenue sur les raisons de son départ, en mettant l’accent sur la confiance mutuelle, les valeurs et l’alignement des missions. Il a également souligné que les risques de l’IA sont une question empirique : il faut construire et étudier des systèmes suffisamment puissants pour comprendre en quoi consistent ces risques. Cela révèle une tension inhérente à Anthropic : l’entreprise se méfie de l’IA puissante, mais estime aussi devoir contribuer elle-même à son développement afin de pouvoir l’étudier et en maîtriser les risques. Source : reportage de TIME sur Anthropic
Cela n’a pas fait disparaître les tensions entre sécurité et impératifs commerciaux. Au contraire, elles ont accompagné la création d’Anthropic : la recherche exige des ressources et de la puissance de calcul ; la sécurité demande du temps, des évaluations et des garde-fous ; la croissance commerciale, elle, suppose une amélioration constante des produits et leur adoption durable par les clients. L’équipe fondatrice a choisi non pas de se retirer de la course, mais de créer un laboratoire qui affirme vouloir y participer autrement.
Les compétences des six fondateurs s’enchaînent pour former une filière de recherche, tandis que les fonctions organisationnelles et opérationnelles de Daniela en constituent le cadre extérieur. Le schéma est établi à partir des responsabilités rendues publiques et ne représente pas les lignes hiérarchiques réelles.
Sept métiers, une entreprise
Dario Amodei : transformer le jugement scientifique en orientation pour l’entreprise. Dario a étudié la physique et la biophysique, puis travaillé chez Google Brain et OpenAI. Il était vice-président de la recherche chez OpenAI, où il a participé au développement des grands modèles de langage et contribué avec ses collègues à faire progresser l’apprentissage par renforcement à partir du retour humain. Aujourd’hui PDG d’Anthropic, il est responsable des orientations de recherche et de la vision stratégique. Son influence essentielle ne tient pas à une technologie particulière, mais à la question organisationnelle qu’il pose sans cesse : si les capacités des modèles progressent comme prévu, quels mécanismes de sécurité l’entreprise doit-elle mettre en place à l’avance ? Dans ses prises de parole publiques, il souligne à la fois les risques et les bénéfices considérables que l’IA pourrait apporter dans des domaines comme la biomédecine. La coexistence des risques et des bénéfices dans son discours est l’une des raisons pour lesquelles Anthropic choisit de poursuivre le développement de l’IA tout en étudiant les moyens de l’encadrer. Sources : site personnel de Dario, équipe dirigeante d’Anthropic
Daniela Amodei : structurer la recherche pour en faire une entreprise capable de livrer des résultats. Daniela est présidente et présidente du conseil d’administration ; elle est aussi la sœur de Dario. Avant de rejoindre Anthropic, elle a travaillé chez Stripe et OpenAI, où elle a occupé des fonctions dans les domaines de la sécurité et des politiques publiques, des ressources humaines et de la gestion de l’ingénierie. Ses responsabilités couvrent la recherche, l’ingénierie, les produits, la gouvernance et l’exécution commerciale ; elle dirige également l’équipe de direction. Si Dario est souvent considéré comme le représentant de la vision technologique de l’entreprise, le travail de Daniela consiste à faire fonctionner de concert l’organisation de la recherche, les équipes produit, les besoins des clients et les structures de l’entreprise. Le fait qu’elle ait participé aux négociations de départ des sept montre aussi qu’elle contribue à définir les limites organisationnelles de l’entreprise depuis sa création, et qu’elle n’occupe pas simplement un poste de direction symbolique. Sources : biographies des dirigeants dans le prospectus, équipe dirigeante d’Anthropic
Tom Brown : rendre techniquement possible l’entraînement de grands modèles. Tom a dirigé les travaux d’ingénierie de GPT-3 et est aujourd’hui directeur de la puissance de calcul chez Anthropic, où il est chargé d’obtenir, de développer et d’utiliser les ressources de calcul. Il est également le premier auteur de l’article sur GPT-3 (Language Models are Few-Shot Learners). Avec ses 175 milliards de paramètres, GPT-3 a montré au secteur que des modèles de plus grande taille pouvaient accomplir de nombreuses tâches à partir de quelques exemples ; mais derrière l’article se trouvent aussi la planification du matériel, l’entraînement distribué, la fiabilité et la maîtrise des coûts. Le parcours de Tom relie les idées scientifiques sur les modèles aux vastes systèmes de machines nécessaires à leur fonctionnement. Aujourd’hui, la puissance de calcul n’est plus une simple ligne budgétaire en arrière-plan : c’est une condition de production essentielle, qui détermine la vitesse des expériences et la position concurrentielle de l’entreprise. Sources : biographie du fondateur dans le prospectus, article original sur GPT-3
Jared Kaplan : découvrir les régularités qui relient échelle et capacités. Jared est physicien théoricien et directeur scientifique d’Anthropic. Avec Dario, Tom, Sam et d’autres, il a cosigné (Scaling Laws for Neural Language Models), une étude sur l’influence des paramètres du modèle, des données et de la quantité de calcul consacrée à l’entraînement sur la perte du modèle. Les régularités empiriques décrites dans l’article aident les chercheurs à estimer comment répartir modèles et données lorsque l’on investit davantage de ressources de calcul. Elles ne prouvent pas que « toute capacité apparaît dès que l’on augmente la taille » et ne remplacent pas les expériences ; elles fournissent un cadre vérifiable qui évite de s’en remettre entièrement aux suppositions pour mener des expériences de pointe. Jared dirige aujourd’hui la recherche technique d’Anthropic et continue de faire le lien entre sciences fondamentales, développement des modèles et sécurité de l’IA. Sources : université Johns-Hopkins, article original sur les lois d’échelle
Sam McCandlish : rendre les cycles de recherche plus rapides et plus fiables. Sam est physicien. Chez OpenAI, il a créé et dirigé une équipe consacrée à l’étude scientifique de l’apprentissage automatique et du passage à l’échelle ; il a également cosigné l’article sur les lois d’échelle. Anthropic le présente aujourd’hui comme architecte en chef. Ses travaux portent notamment sur le préentraînement, la productivité de la recherche et les infrastructures d’apprentissage par renforcement. L’entraînement de grands modèles ne se fait pas d’une simple pression sur un bouton : les équipes de recherche doivent expérimenter à plusieurs reprises, repérer les pannes, comparer les résultats et réutiliser les systèmes. La spécialité de Sam consiste à soutenir ce cycle de recherche. Tom se concentre sur les ressources de calcul et leur organisation ; Sam travaille davantage sur les processus d’entraînement et les infrastructures de recherche. Ces deux types de travaux sont interdépendants et permettent de convertir les ressources en progrès des modèles. Sources : biographie du fondateur dans le prospectus, équipe dirigeante d’Anthropic
Chris Olah : tenter d’ouvrir la boîte noire des modèles. Chris Olah a été l’un des premiers à promouvoir la recherche sur l’interprétabilité mécaniste. Il a travaillé chez Google Brain, dirigé les recherches sur l’interprétabilité chez OpenAI et contribué à la création de la revue scientifique Distill. Il décrit son objectif de recherche comme le fait de rétroconcevoir les réseaux neuronaux pour en tirer des algorithmes compréhensibles par les humains. Les recherches d’Anthropic sur Claude ont permis d’identifier des millions de caractéristiques conceptuelles ; lors d’une démonstration célèbre, après que les chercheurs ont amplifié la caractéristique « Golden Gate Bridge », le modèle a commencé à se présenter comme le Golden Gate Bridge en réponse à toutes sortes de questions. Cela rend la recherche abstraite plus concrète, mais montre aussi que lorsque des représentations internes sont artificiellement amplifiées, le comportement d’un modèle peut devenir étrange, voire dépasser les limites de son entraînement. Le domaine dont Olah est responsable n’a pas rendu les modèles entièrement transparents, mais il a fourni de nouvelles méthodes pour examiner leurs mécanismes internes. Sources : site personnel de Chris Olah, présentation des recherches d’Anthropic
Jack Clark : traduire le langage du laboratoire en enjeux publics. Jack a été journaliste spécialisé dans les technologies ; il a couvert les superordinateurs, les réseaux neuronaux et les technologies de pointe, avant de rejoindre OpenAI pour y diriger les politiques publiques et la communication. Il est aujourd’hui responsable de l’intérêt public chez Anthropic et dirige l’Anthropic Institute, qui étudie les effets de l’IA de pointe sur la société. Son parcours diffère de celui des autres fondateurs issus du monde technique : tandis que les ingénieurs parlent d’évaluation des modèles et d’échelle d’entraînement, Jack doit relier ces notions aux politiques publiques, à l’emploi, à la sécurité nationale et à la compréhension du public. Son expérience de journaliste ne remplace pas le travail technique ; elle sert de passerelle entre l’entreprise et le monde extérieur. Toutefois, les recherches sur l’intérêt public menées par une entreprise soulèvent aussi des questions de crédibilité : il faut constamment examiner qui définit les sujets de recherche et si les conclusions peuvent être indépendantes des intérêts commerciaux de l’entreprise. Sources : biographie du fondateur dans le prospectus, équipe dirigeante d’Anthropic
Ensemble, les sept couvrent les orientations de recherche, la gestion de l’entreprise, la puissance de calcul, les sciences fondamentales, les systèmes d’entraînement, les mécanismes internes des modèles et les politiques publiques. Cela ne signifie pas que chacun travaille dans son coin, sans lien avec les autres. Les orientations de recherche sur les grands modèles déterminent les besoins en puissance de calcul ; les infrastructures influencent la vitesse des expériences ; l’interprétation du comportement des modèles peut fournir des pistes pour les évaluations de sécurité ; et les politiques publiques ainsi que la gouvernance déterminent la manière dont l’entreprise rend des comptes à l’extérieur. L’avantage initial d’Anthropic vient probablement du fait que ces fonctions ont été réunies dès la fondation par un groupe de personnes ayant déjà l’habitude de travailler ensemble, plutôt que d’avoir été ajoutées à la hâte une fois l’entreprise devenue grande.
De l’article cosigné chez OpenAI en 2020 au prospectus de novembre 2026. Les sept ont annoncé leur départ en décembre 2020 et Anthropic a été fondée en 2021.
Comment les engagements en matière de sécurité s’inscrivent dans les institutions
Les fondateurs ont quitté OpenAI avec un programme de recherche, mais aussi avec l’intention de modifier la structure juridique et de gouvernance de l’entreprise. Anthropic a choisi de se constituer en société d’intérêt public (Public Benefit Corporation) et a inscrit dans ses objectifs le fait de « développer et maintenir des systèmes d’IA avancés de manière responsable, afin qu’ils bénéficient à l’humanité sur le long terme ». L’entreprise a également créé le Long-Term Benefit Trust, composé de fiduciaires sans intérêt financier, qui participe à la composition du conseil d’administration par l’intermédiaire d’actions spéciales.
La mise à jour du prospectus en vue de l’IPO prévoit également que la Founder LLC détienne une action spéciale de catégorie F, grâce à laquelle les sept fondateurs disposent ensemble de 50,1 % des droits de vote pour les décisions soumises au vote ordinaire des actionnaires. Il s’agit d’un mécanisme important de contrôle des fondateurs. Toutefois, la gouvernance ne se résume pas à « une seule voix des fondateurs décide de tout » : ces 50,1 % s’appliquent aux décisions soumises au vote ordinaire des actionnaires, notamment à l’élection des administrateurs autres que ceux de catégorie T ; le Long-Term Benefit Trust, quant à lui, peut généralement nommer et révoquer les administrateurs de catégorie T grâce aux actions de catégorie T, et ces administrateurs constituent la majorité du conseil d’administration. Les intérêts économiques, les droits de vote des actionnaires et les sièges au conseil sont répartis au moyen de mécanismes distincts : c’est précisément le système de contre-pouvoirs qu’Anthropic tente de mettre en place. Source : prospectus mis à jour le 10 novembre
La conception des institutions peut modifier les seuils de décision, mais elle ne garantit pas automatiquement de bons résultats. TIME a rapporté qu’Anthropic s’était engagée, dans le cadre de sa politique de développement responsable, à limiter les lancements lorsque les modèles dépassent certains seuils de capacités sans que les mesures de sécurité correspondantes soient prêtes. L’entreprise estime que la recherche sur des modèles puissants est elle-même indispensable pour comprendre les risques et élaborer des règles ; les critiques demanderont toutefois si ces contraintes volontaires resteront aussi strictes à mesure que les revenus, les investissements et la pression concurrentielle augmenteront. Source : reportage de TIME sur la gouvernance d’Anthropic
À gauche, le contrôle : la majorité des voix revient aux fondateurs et la majorité du conseil est nommée par le Trust. À droite, l’argent : chacun prévoit de vendre environ 250 millions de dollars d’actions, soit près de 1,4 % de la fortune estimée par Bloomberg. Les chiffres sont calculés à partir du milieu de la fourchette de prix indiquée dans le prospectus.
Cette question n’est pas un débat abstrait sur la gouvernance d’entreprise. Plus Claude rencontre le succès, plus Anthropic a besoin de puissance de calcul, de talents et de clients ; et plus elle dispose de ces ressources, plus elle peut mener des recherches sur la sécurité, tout en devant affronter les tensions entre rythme de croissance, lancement des produits et gestion des risques. Le problème que l’entreprise voulait résoudre à sa création devient plus difficile encore à mesure qu’elle prend de l’ampleur.
La fortune créée par l’IPO, une mise à l’épreuve
Le prospectus mis à jour le 10 novembre 2026 indique que chacun des sept fondateurs prévoit de vendre environ 3,378 millions d’actions lors de l’IPO. Sur la base du milieu de la fourchette de prix d’émission de 70 à 78 dollars, soit 74 dollars, chacun encaisserait environ 250 millions de dollars, pour un total d’environ 1,75 milliard pour les sept. Bloomberg estime, en s’appuyant sur son indice des milliardaires, que la fortune nette de chacun avoisine 18 milliards de dollars. Le montant de la vente prévue est le produit du nombre précis d’actions par un prix hypothétique ; la fortune nette, elle, est une estimation de l’ensemble de leurs actifs. Aucun des deux chiffres ne correspond à des liquidités déjà perçues, et ils ne signifient pas que les sept possèdent exactement la même composition d’actifs. Sources : prospectus mis à jour auprès de la SEC, Bloomberg
Au-delà de leur fortune, il y a aussi un engagement. Dès la création de l’entreprise, les cofondateurs se sont engagés à faire don à des œuvres caritatives de 80 % des actions Anthropic qu’ils détenaient chacun. Le prospectus mis à jour indique que l’entreprise a transféré 5 % de ses actions à l’Anthropic Public Benefit Fund, dont Jack Clark et Buddy Shah sont les premiers administrateurs. Dans une annonce d’octobre, l’entreprise estimait que ces dispositions, combinées au programme de dons d’actions des employés, pourraient à terme mettre environ 20 % des actions au service de l’intérêt public. Toutefois, le prospectus précise que l’engagement des fondateurs de donner 80 % de leurs actions est volontaire, révocable et dépourvu de force juridique contraignante ; le calendrier des dons du fonds et l’affectation des sommes dépendront des informations communiquées ultérieurement. L’ampleur de l’engagement philanthropique est considérable, mais sa mise en œuvre exige elle aussi transparence et reddition de comptes. Sources : annonce de l’Anthropic Public Benefit Fund, (Chronicle of Philanthropy)
Un autre point de confusion concerne le périmètre des « sept cofondateurs ». La liste publique d’Anthropic et la Founder LLC comprennent Dario, Daniela, Tom, Jack, Jared, Sam et Chris. Ben Mann a lui aussi joué un rôle important au début de l’entreprise et est souvent qualifié de cofondateur, mais le prospectus précise clairement qu’il n’est pas membre de la Founder LLC. Ainsi, les « sept » mentionnés dans les articles désignent les sept personnes figurant dans cette structure de vote des fondateurs, et non un classement exhaustif de tous les contributeurs des débuts. Source : présentation des fondateurs dans le prospectus
Si l’on raconte l’histoire de ces sept personnes en ne s’appuyant que sur les chiffres de leur fortune après l’IPO, elle se résume vite au partage des gains entre sept nouveaux milliardaires. Il est plus intéressant de se demander si les problèmes organisationnels qu’ils voulaient résoudre en quittant un laboratoire de premier plan ont réellement été réglés : lorsque les capacités de l’IA et les revenus de l’entreprise s’accélèrent de concert, qui peut dire « attendons un peu » ? Les évaluations de sécurité internes peuvent-elles résister aux impératifs du calendrier commercial ? Comment les actions destinées à la philanthropie se traduiront-elles en résultats tangibles pour la société ?
Le parcours de ces sept personnes a permis à Anthropic de réunir un groupe rare : des personnes qui ont entraîné des modèles de grande taille, qui comprennent le coût de la puissance de calcul, qui étudient les régularités des modèles et leurs mécanismes internes, ainsi que des responsables de la gestion de l’entreprise et de la communication publique. L’entreprise qu’elles ont cofondée a déjà montré que le discours sur la sécurité peut coexister avec la concurrence commerciale. Le défi qui l’attend est de prouver que cette coexistence n’est pas seulement un idéal des débuts, mais qu’elle peut perdurer alors que la taille, les profits et le pouvoir augmentent rapidement.