En décembre 2020, Dario Amodei a annoncé lors d’une visioconférence réunissant toute l’équipe d’OpenAI que lui et six collègues partaient créer une entreprise qui placerait la sécurité de l’IA au cœur de ses priorités. Le chat s’est rempli de messages de surprise et d’adieu. Jack Clark a écrit : « Je vous aime tous. » Puis les sept écrans se sont éteints. Ils avaient été expulsés de la réunion, privés de leur adresse e-mail professionnelle et de leur accès à Slack, et leurs ordinateurs portables avaient été verrouillés à distance.
Quelques heures plus tôt, ils étaient chercheurs et cadres supérieurs dans l’un des principaux laboratoires d’IA. À présent, ils n’avaient plus d’emploi, plus accès aux systèmes de l’entreprise et n’avaient aucune idée claire de la suite. D’où viendraient les GPU ? L’argent ? Quel nom donner à l’entreprise ? Même l’achat de nouveaux ordinateurs portables pour tout le monde était une question en suspens. Près de six ans plus tard, l’entreprise s’appelle Anthropic, son produit Claude rivalise directement avec OpenAI et les fondateurs se préparent à l’introduire en bourse.
Cette scène de départ provient d’un extrait du nouveau livre de Kevin Roose, publié dans The Atlantic. C’est un meilleur point de départ que « sept dirigeants créent une entreprise d’IA » : ces personnes avaient déjà contribué à la création de modèles d’IA de pointe et tentaient d’inscrire dans les règles d’une nouvelle entreprise leurs désaccords sur les risques, la vitesse et la responsabilité organisationnelle. Source : The Atlantic
Pourquoi ils sont partis
Leur départ est souvent résumé ainsi : « OpenAI ne prenait pas suffisamment la sécurité au sérieux. » Cela donne la bonne orientation, mais simplifie tout le reste. La sécurité était au cœur du désaccord, mais la question était aussi liée à qui pouvait décider du lancement d’un produit, à la manière dont l’entreprise était gérée et à la capacité d’une équipe de sécurité à changer quoi que ce soit une fois que la recherche en IA était devenue une course commerciale.
Dario était vice-président de la recherche chez OpenAI. Il a posé des conditions à Sam Altman pour rester, notamment que l’équipe de sécurité ait le pouvoir de bloquer les lancements de produits. Alors que les discussions se poursuivaient, les sept ont créé un groupe privé sur Slack appelé BATNA, terme de négociation signifiant « meilleure solution de rechange à un accord négocié ». Ils négociaient tout en préparant leur départ. Les discussions n’ont abouti à aucun accord.
Daniela a négocié le départ au nom du groupe. Les deux parties ont fait appel à des avocats et se sont entendues sur une période durant laquelle l’équipe partante pourrait recruter des collègues, ainsi que sur un accord réciproque d’un an interdisant le débauchage. Dario a annoncé la décision lors de la réunion générale, et Jack a écrit son message d’adieu dans le chat. Ces détails comptent : Anthropic n’était pas un groupe de scientifiques vedettes qui se connaissaient à peine. Ils avaient travaillé au sein de la même organisation et ont traversé ensemble un départ collectif difficile.
Lorsqu’il l’a interviewé plus tard, le magazine TIME a constaté que Dario restait mesuré sur les raisons de leur départ, mettant l’accent sur la confiance mutuelle, les valeurs partagées et une mission commune. Il a aussi soutenu que les risques liés à l’IA relevaient de questions empiriques : il faut construire et étudier des systèmes suffisamment puissants pour découvrir quels sont réellement les risques. Cette tension est inscrite dans l’ADN d’Anthropic. L’entreprise se méfie de l’IA puissante, mais estime devoir elle-même la faire progresser afin de l’étudier et de la maîtriser. Source : TIME sur Anthropic
Rien de tout cela n’a fait disparaître le conflit entre sécurité et affaires. Il l’a déplacé au sein d’Anthropic. La recherche nécessite de l’ampleur et des capacités de calcul. La sécurité exige du temps, des évaluations et de la retenue. La croissance commerciale nécessite des produits qui continuent de s’améliorer et des clients qui continuent de les adopter. Le choix que les fondateurs ont fait ensemble n’a pas été de quitter la course, mais de créer un laboratoire qui affirme vouloir la mener autrement.
Les compétences de six fondateurs s’articulent dans un même cycle de recherche ; le rôle de Daniela, qui dirige l’entreprise, en constitue l’anneau extérieur. Représentation fondée sur les fonctions publiques, et non sur une véritable ligne hiérarchique.
Sept rôles, une entreprise
Dario Amodei : transformer le jugement scientifique en orientation pour l’entreprise. Dario a étudié la physique et la biophysique, puis travaillé chez Google Brain et OpenAI, où il était vice-président de la recherche, a contribué au développement de grands modèles de langage et a travaillé avec ses collègues sur l’apprentissage par renforcement à partir de retours humains. En tant que PDG d’Anthropic, il définit les orientations de la recherche et la stratégie. Son influence principale ne tient pas à une technique particulière, mais à une question qu’il ne cesse de poser à l’échelle de l’organisation : si les capacités des modèles progressent comme prévu, quels dispositifs de sécurité l’entreprise doit-elle avoir mis en place au préalable ? Dans ses écrits publics, il insiste sur les risques, tout en évoquant aussi d’importants bénéfices potentiels, par exemple en biomédecine. Il prend ces deux aspects en compte à la fois, ce qui explique en partie pourquoi Anthropic continue de développer des modèles tout en étudiant comment limiter ce qu’elle construit. Sources : site web de Dario Amodei, direction d’Anthropic
Daniela Amodei : structurer la recherche en une entreprise qui met des produits sur le marché. Daniela est présidente et présidente du conseil d’administration, et la sœur de Dario. Avant Anthropic, elle a travaillé chez Stripe et OpenAI, dans des fonctions touchant à la sécurité, aux politiques publiques, aux ressources humaines et à la gestion de l’ingénierie. Ses responsabilités couvrent la recherche, l’ingénierie, les produits, la gouvernance et les opérations commerciales, et elle dirige l’équipe de direction. Si Dario est généralement considéré comme le visionnaire technique de l’entreprise, le rôle de Daniela consiste à faire fonctionner simultanément l’organisation de recherche, les équipes produit, les exigences des clients et les règles de l’entreprise. Son rôle dans la négociation du départ montre qu’elle définissait les contours organisationnels de l’entreprise dès le premier jour, et qu’elle n’occupait pas un poste de direction purement symbolique. Sources : biographies des dirigeants dans le formulaire S-1, direction d’Anthropic
Tom Brown : faire de l’entraînement de grands modèles une réussite de l’ingénierie. Tom a dirigé l’ingénierie de GPT-3 et est aujourd’hui directeur du calcul chez Anthropic, où il est chargé de l’acquisition, de l’augmentation et de l’utilisation des ressources de calcul. Il est aussi le premier auteur de l’article sur GPT-3, « Language Models are Few-Shot Learners ». Avec ses 175 milliards de paramètres, GPT-3 a montré que des modèles de grande taille pouvaient accomplir de nombreuses tâches à partir de quelques exemples. Derrière l’article se trouvaient la planification des ressources matérielles, l’entraînement distribué, la fiabilité et la maîtrise des coûts. Le parcours de Tom relie les idées scientifiques qui sous-tendent les modèles aux moyens colossaux nécessaires pour les faire fonctionner. Aujourd’hui, le calcul n’est pas un simple poste budgétaire administratif : il détermine la vitesse à laquelle un laboratoire peut mener des expériences et sa position face à ses concurrents. Sources : biographies des fondateurs dans le formulaire S-1, article sur GPT-3
Jared Kaplan : découvrir les régularités qui relient l’échelle aux capacités. Jared est physicien théoricien et directeur scientifique d’Anthropic. L’article « Scaling Laws for Neural Language Models », qu’il a écrit avec Dario, Tom, Sam et d’autres, étudiait l’influence des paramètres, des données et des ressources de calcul consacrées à l’entraînement sur la fonction de perte d’un modèle. Ses régularités empiriques aident les chercheurs à estimer comment répartir des ressources de calcul supplémentaires entre la taille du modèle et les données. Il n’a pas prouvé qu’une capacité donnée apparaîtra dès lors qu’on augmente simplement la taille des modèles, et il ne remplace pas les expériences. Il propose plutôt un cadre vérifiable, afin que les expériences de pointe ne relèvent pas de la pure conjecture. Jared dirige aujourd’hui la recherche technique d’Anthropic, faisant le lien entre science fondamentale, développement des modèles et sécurité de l’IA. Sources : université Johns-Hopkins, article sur les lois d’échelle
Sam McCandlish : accélérer et fiabiliser le cycle de recherche. Sam est physicien. Il a créé et dirigé chez OpenAI l’équipe qui étudiait les fondements scientifiques de l’apprentissage automatique et son passage à l’échelle, et a cosigné l’article sur les lois d’échelle. Anthropic le présente comme architecte en chef, chargé du préentraînement, de la productivité de la recherche et de l’infrastructure d’apprentissage par renforcement. L’entraînement d’un grand modèle ne se résume pas à appuyer sur un bouton. Les équipes répètent les expériences, recherchent les causes des échecs, comparent les résultats et réutilisent les systèmes. La spécialité de Sam est l’infrastructure qui permet ce cycle. Tom se concentre sur les ressources de calcul et leur organisation ; Sam intervient davantage au niveau du pipeline d’entraînement et des outils de recherche. Ils dépendent l’un de l’autre pour transformer les ressources en progrès des modèles. Sources : biographies des fondateurs dans le formulaire S-1, direction d’Anthropic
Chris Olah : tenter de comprendre la boîte noire. Chris Olah est l’un des premiers promoteurs de l’interprétabilité mécaniste. Il a travaillé chez Google Brain, dirigé la recherche sur l’interprétabilité chez OpenAI et cofondé la revue Distill. Il décrit son objectif comme la rétro-ingénierie des réseaux neuronaux afin d’en tirer des algorithmes que les humains peuvent comprendre. Les recherches d’Anthropic sur Claude ont permis d’identifier des millions de caractéristiques conceptuelles. Dans une démonstration bien connue, les chercheurs ont amplifié une caractéristique associée au « Golden Gate Bridge », et le modèle s’est mis à se décrire comme le Golden Gate Bridge en réponse à toutes sortes de questions. Cette démonstration a rendu concrètes des recherches abstraites et a aussi montré que lorsqu’on modifie artificiellement les représentations internes, le comportement d’un modèle peut devenir étrange. Les travaux d’Olah n’ont pas rendu les modèles entièrement transparents, mais ils ont fourni de nouvelles méthodes pour examiner leur fonctionnement interne. Sources : site web de Chris Olah, recherches d’Anthropic
Jack Clark : traduire le langage des laboratoires en questions d’intérêt public. Avant de rejoindre OpenAI pour diriger les politiques publiques et les communications, Jack était journaliste spécialisé dans les superordinateurs, les réseaux neuronaux et les technologies de pointe. Il est aujourd’hui responsable de l’intérêt général chez Anthropic et dirige l’Anthropic Institute, qui étudie les effets sociaux de l’IA de pointe. Son parcours diffère de celui des fondateurs techniques : tandis que les ingénieurs parlent d’évaluations et d’échelle d’entraînement, Jack doit relier ces idées aux politiques publiques, à l’emploi, à la sécurité nationale et à la compréhension du public. Son expérience du journalisme fait le lien entre l’entreprise et le monde extérieur ; elle ne remplace pas le travail technique. Une entreprise qui étudie l’intérêt général doit aussi faire ses preuves en matière de crédibilité : qui définit le programme de recherche et les conclusions peuvent-elles être indépendantes des intérêts commerciaux de l’entreprise ? Sources : biographies des fondateurs dans le formulaire S-1, direction d’Anthropic
Ensemble, les sept couvrent l’orientation de la recherche, les opérations, le calcul, la science fondamentale, les systèmes d’entraînement, le fonctionnement interne des modèles et les politiques publiques. Cela ne signifie pas que chacun protège un domaine distinct. Le programme de recherche détermine les besoins en calcul ; l’infrastructure fixe la vitesse des expériences ; l’explication du comportement des modèles alimente l’évaluation de la sécurité ; les politiques publiques et la gouvernance déterminent la manière dont l’entreprise rend des comptes au monde extérieur. Le premier avantage d’Anthropic pourrait bien venir du fait que toutes ces fonctions ont été créées par des personnes ayant déjà travaillé ensemble, plutôt que greffées à l’entreprise après sa croissance.
Des articles écrits chez OpenAI en 2020 au formulaire S-1 modifié de novembre 2026. Les sept ont annoncé leur départ en décembre 2020 ; Anthropic a été fondée en 2021.
Inscrire les engagements en matière de sécurité dans les règles
Les fondateurs ont quitté OpenAI avec un programme de recherche, mais aussi avec l’intention de modifier la structure juridique et de gouvernance de l’entreprise. Anthropic est une société d’intérêt public dont l’objet social comprend « le développement et la maintenance responsables d’une IA avancée au bénéfice de l’humanité à long terme ». Elle a également créé un Long-Term Benefit Trust, dont les administrateurs n’ont aucun intérêt financier dans l’entreprise et qui influe sur la composition du conseil d’administration grâce à une catégorie spéciale d’actions.
Le formulaire d’introduction en bourse modifié indique aussi que Founder LLC détient une seule action de catégorie F, donnant aux sept fondateurs 50,1 % des voix sur les questions généralement soumises aux actionnaires. Il s’agit d’un dispositif important de contrôle par les fondateurs. Mais cela ne signifie pas que « les fondateurs décident de tout ». Les 50,1 % concernent les votes des actionnaires en général, y compris l’élection des administrateurs autres que les administrateurs de catégorie T. Le Long-Term Benefit Trust, par l’intermédiaire des actions de catégorie T, a généralement le pouvoir d’élire et de révoquer les administrateurs de catégorie T, lesquels constituent la majorité du conseil d’administration. La propriété économique, les votes des actionnaires et les sièges au conseil sont répartis selon différents mécanismes. Cette séparation constitue le système de contre-pouvoirs qu’Anthropic cherche à mettre en place. Source : formulaire S-1 modifié, 10 novembre
La conception de la gouvernance peut relever le seuil nécessaire à une décision. Elle ne peut pas garantir un bon résultat. TIME a rapporté que, dans le cadre de sa politique de déploiement responsable à mesure de la montée en puissance, Anthropic s’était engagée à suspendre les lancements lorsqu’un modèle franchit certains seuils de capacité avant que des mesures de sécurité correspondantes soient prêtes. L’entreprise soutient que l’étude de modèles puissants est en soi nécessaire pour comprendre les risques et élaborer des règles. Les critiques se demandent dans quelle mesure ces limites que l’entreprise s’impose resteront fermes à mesure que les revenus, les investisseurs et la concurrence progresseront. Source : TIME sur la structure d’Anthropic
À gauche, le contrôle : les fondateurs détiennent les voix des actionnaires, et le Trust élit la plupart des membres du conseil d’administration. À droite, l’argent : chaque fondateur prévoit de vendre environ 250 millions de dollars d’actions, soit quelque 1,4 % de la fortune nette estimée par Bloomberg. Les chiffres sont calculés à partir du point médian de la fourchette de prix indiquée dans le formulaire.
Il ne s’agit pas d’un débat abstrait sur la gouvernance. Plus Claude rencontre de succès, plus Anthropic a besoin de ressources de calcul, de talents et de clients. Plus elle en possède, plus elle peut financer la recherche sur la sécurité, mais plus elle est aussi confrontée à des conflits entre vitesse de croissance, lancements de produits et gestion des risques. Le problème qu’Anthropic a été fondée pour résoudre devient plus difficile encore lorsque l’entreprise opère à grande échelle.
La fortune issue de l’introduction en bourse, et une épreuve
Le formulaire modifié du 10 novembre 2026 indique que chacun des sept fondateurs prévoit de vendre environ 3,38 millions d’actions lors de l’introduction en bourse. Au prix de 74 $, point médian de la fourchette de 70 à 78 $, cela représente environ 250 millions de dollars par personne et environ 1,75 milliard de dollars pour les sept. Bloomberg, citant le Bloomberg Billionaires Index, estime la fortune nette de chaque fondateur à environ 18 milliards de dollars. La vente prévue correspond au nombre d’actions multiplié par un prix supposé ; la fortune nette est une estimation de la valeur totale des biens d’une personne. Aucun de ces montants n’est de l’argent déjà perçu, et les sept ne possèdent pas des actifs identiques. Sources : formulaire S-1 modifié, Bloomberg
À côté de la fortune, il y a une promesse. Lors de la création de l’entreprise, les cofondateurs se sont engagés à donner à des œuvres caritatives 80 % de leurs parts dans Anthropic. Le formulaire modifié indique que l’entreprise a déjà versé 5 % de ses actions à l’Anthropic Public Benefit Fund, dont Jack Clark et Buddy Shah sont les premiers gestionnaires. Dans une annonce d’octobre, l’entreprise a estimé que ces dispositions, combinées à un programme de don d’actions par les employés, permettraient à terme de consacrer environ 20 % de ses actions à l’intérêt général. Le formulaire précise également que l’engagement des fondateurs de donner 80 % de leurs parts est volontaire et révocable, et qu’il ne crée aucune obligation juridiquement contraignante. La rapidité des dons et leur destination dépendront de futures informations publiées. Sources : annonce de l’Anthropic Public Benefit Fund, The Chronicle of Philanthropy
La portée de l’expression « sept cofondateurs » peut aussi facilement être mal interprétée. La liste publique d’Anthropic et Founder LLC comprennent Dario, Daniela, Tom, Jack, Jared, Sam et Chris. Ben Mann a joué un rôle important au début et est souvent qualifié de cofondateur, mais le document indique qu’il n’est pas membre de Founder LLC. Les « sept » dont parlent les actualités désignent les personnes qui participent à cette structure de vote des fondateurs, et non un classement exhaustif des premiers contributeurs. Source : déclaration sur les fondateurs dans le formulaire S-1
Si on ne raconte cette histoire qu’à travers la fortune issue de l’introduction en bourse, elle devient vite celle de sept nouveaux milliardaires qui se partagent le gâteau. La meilleure question est de savoir si le problème organisationnel qu’ils ont quitté un laboratoire de premier plan pour résoudre l’a réellement été. Quand les capacités de l’IA et les revenus de l’entreprise augmentent de concert, qui a le pouvoir de dire « attendez » ? Les évaluations internes de sécurité peuvent-elles résister au calendrier du marché ? Comment les fonds propres consacrés à des causes caritatives se traduiront-ils en résultats visibles pour le public ?
Les sept ont donné à Anthropic une combinaison peu commune : des personnes qui avaient entraîné elles-mêmes de grands modèles, d’autres qui comprenaient le coût du calcul, d’autres encore qui étudiaient les régularités et le fonctionnement interne des modèles, ainsi que des personnes chargées de diriger l’organisation et de communiquer avec le public. L’entreprise qu’ils ont créée a montré qu’un discours axé sur la sécurité pouvait coexister avec la concurrence commerciale. Le défi, désormais, est de prouver qu’il ne s’agit pas seulement d’un idéal de jeune entreprise et qu’il résiste encore lorsque l’échelle, les profits et le pouvoir ont tous rapidement augmenté.