Titre original : (Anthropic, Dario Amodei, et « la dernière entreprise privée »)
Auteur original : DétailBeating

À propos du fondateur d’Anthropic, Dario Amodei, on raconte deux histoires, qui se contredisent, tout en semblant chacune s’expliquer.

Une façon de le dire est : c’est le gardien de nuit le plus lucide de notre époque. Pendant que le monde entier appuie à fond sur l’accélérateur vers le précipice de la surintelligence, lui accepte de se tenir au bord de la route, et répète inlassablement : « Devant, il y a l’abîme. »

Une autre version affirme qu’il fait partie des plus grandes figures d’ambition de la Silicon Valley. Il dirige, avec une énergie sans relâche, l’une des entreprises d’IA les plus puissantes du monde ; il bricole, jour et nuit, la suite de ce futur que tout le monde avait mis en garde d’avance, et il le fabrique, lui-même, morceau par morceau.

Une seule personne peut-elle vraiment accomplir ces deux choses à la fois ?

Il a donné un nom au monde imaginé : « la patrie des génies dans les centres de données ». Dans ce pays, il y a cinquante millions de génies, qui ne dorment pas, travaillent vingt-quatre heures par jour ; leur vitesse de pensée est des dizaines de fois celle des gens ordinaires ; et ils peuvent aussi reproduire d’innombrables génies semblables à eux. Ce pays n’a pas de territoire, pas de frontières : il se trouve dans une rangée de centres de données, les uns après les autres.

En janvier 2026, il rédige cette imagination dans un long article intitulé (l’adolescence technologique).

Et puis il pousse encore l’idée un cran plus loin : que se passerait-il un jour si ces cinquante millions de génies n’écoutaient plus les humains ?

Et ensuite, les images deviennent dangereuses. Les armes biologiques, le chômage de masse, la dictature, la guerre : il les compte une à une. À la fin, il dit : il ne nous reste pas beaucoup de temps.

Mais dans le même article, il écrit aussi : « L’IA écrit déjà beaucoup de code pour Anthropic, aidant à fabriquer plus vite le prochain modèle. »

D’un côté, il avertit ; de l’autre, il accélère. Il ne voit aucune contradiction là-dedans.

C’est le point de départ de tout le problème : ce n’est pas qu’il soit mauvais, c’est qu’il ne se sent vraiment pas le moins du monde concerné.

Bien sûr, il a ses explications. Anthropic s’arrête, OpenAI continue, Google continue, et les entreprises des autres pays ne s’arrêtent pas non plus. Personne ne veut lâcher la première prise. Celui qui s’arrête le premier ne pourra probablement rien empêcher ; il ne fait que laisser les fruits aux autres.

Cette rhétorique traduite signifie : puisque tout le monde se bat pour gagner, faisons en sorte que « moi » j’arrive en premier. Puisque personne ne peut s’arrêter, faisons en sorte que « moi » décide du moment où l’on s’arrête.

Du coup, la question de savoir s’il faut construire une super-intelligence devient moins importante. Selon son raisonnement, elle sera construite tôt ou tard. Ce qui compte vraiment, c’est qui la construira le premier, et à ce jour-là, qui aura le droit de tenir le volant.

Trop tard

Dario Amodei est né en 1983 à San Francisco. En 1983. Son père est d’origine toscane (Italie) : toute sa vie, il a fait du commerce de produits en cuir ; sa mère, d’origine juive de Chicago, a contribué à la planification et à la construction de la bibliothèque publique de San Francisco.

Dès son enfance, il aime les mathématiques et la physique. À la fin des années 1990, la bulle Internet de la baie explose : des entreprises sortent les unes après les autres. Les jeunes écrivent des sites web, cherchent des investisseurs, calculent combien ils pourraient encaisser le jour où ils seraient introduits en Bourse. Ces histoires ne l’ont pas touché. Beaucoup d’années plus tard, il dira qu’à l’époque, il cherchait « des vérités de base en science », qu’il voulait juste comprendre pourquoi le monde en est arrivé là.

À propos des soi-disant « questions importantes », il a eu très tôt une forme de sérieux presque obstiné. Tant qu’il considère une chose assez importante, il lui est impossible d’imaginer comment quelqu’un peut encore ralentir comme si de rien n’était.

En 2003, les États-Unis doivent attaquer l’Irak. Il étudie au California Institute of Technology. Sur le campus, il y a pas mal de personnes opposées à la guerre. Lorsqu’on discute, certains parlent avec inquiétude ; le lendemain, tout le monde retourne aux cours comme d’habitude. Il écrit, dans le journal des étudiants, un article qui critique ses camarades : si on a peur qu’une guerre tue beaucoup de gens, alors s’opposer ne devrait pas s’arrêter à des mots ; s’en plaindre puis attendre que la guerre ait lieu pour regretter ensuite, c’est trop tard.

Pour lui, l’hésitation n’a jamais été neutre. Attendre, c’est déjà choisir.

Ce jeune homme de vingt ans ne supporte pas le plus au monde d’attendre.

Trois ans plus tard, à vingt-trois ans, son père meurt d’une hépatite C.

À l’époque, l’hépatite C était presque incurable. Le traitement standard consistait à injecter de l’interféron pendant une année entière, mais cela provoquait fièvre, chute de cheveux, dépression, et le taux de guérison n’atteignait même pas la moitié.

En décembre 2013, un nouveau médicament obtient une autorisation. La durée du traitement tombe à douze semaines, avec un taux de guérison de 95%.

Son père n’a pas attendu.

Il ne reste que sept ans.

Un fils qui n’a jamais pu sauver son père, et pendant les vingt années qui suivent, il n’a cessé de pousser la science à aller plus vite, encore plus vite.

Après la mort de son père, il passe de la physique théorique à la bio-physique. À Princeton, il étudie les circuits neuronaux de la rétine. À l’époque, les instruments ne pouvaient enregistrer qu’un très petit nombre de signaux neuronaux à la fois ; il trouvait cela trop lent, alors il s’est impliqué dans la création de nouveaux capteurs.

Plus tard, il entre à la faculté de médecine de Stanford et étudie le cancer et les protéines. Plus on est proche de la maladie, plus on a l’impression d’être petit. Une maladie implique des centaines de gènes, des milliers de protéines, et d’innombrables voies interconnectées. Les chercheurs passent des années entières à essayer peut-être de comprendre un seul maillon, sans pour autant savoir ce qui se passe quand on le remet dans l’ensemble du corps.

Plus tard, il décrit ce genre de complexité : cela le mène presque au désespoir.

C’est à ce moment-là que l’IA entre dans son champ de vision : un outil capable d’agrandir l’échelle humaine. Une machine peut lire en même temps des dizaines d’articles, traiter quantité de données, essayer toutes sortes de possibilités, et remplacer le travail cognitif qui, à l’origine, nécessitait plusieurs centaines, voire plusieurs milliers de chercheurs.

Il part de l’idée que « l’homme est trop petit », et sa conclusion consiste à créer quelque chose de plus grand encore, afin d’écraser une fois de plus l’être humain.

En 2014, il quitte les sciences de la vie pour rejoindre l’équipe d’intelligence artificielle de Baidu à Silicon Valley. L’équipe constate très vite que si le modèle devient un peu plus grand, si les données augmentent encore un peu et si l’on ajoute un peu plus de puissance de calcul, les résultats continuent d’en faire autant. Quelques années plus tard, cette expérience est résumée en « loi de l’échelle ». Vous ne savez peut-être pas ce que la prochaine génération de modèles apprendra soudainement, mais vous pouvez affirmer qu’elle sera forcément plus forte que la précédente.

Pour la première fois, l’intelligence semble pouvoir être produite comme un bien industriel. Une IA puissante devient donc une chose qui naîtra tôt ou tard.

Les différences restantes, ce n’est plus que : combien de données, combien de puces, combien d’électricité, et combien de temps encore il faut attendre.

Celui qui déteste le plus attendre l’a démontré lui-même : le chemin vers les réponses qu’il voulait, il existait.

Le volant

En 2016, Dario Amodei rejoint OpenAI.

Dans les années qui suivent, les modèles de langage grossissent rapidement. À GPT-3, OpenAI confie plus de la moitié de la puissance de calcul de l’entreprise à Dario, afin qu’il multiplie la taille du modèle par cent. Le résultat est encore plus surprenant que ce que beaucoup attendaient : il peut écrire des articles, traduire, résumer, et aussi des compétences qu’il n’a été enseigné à personne—qu’il apprend lui-même.

La taille suit l’échelle ; les capacités suivent l’échelle. (En chinois : « De plus en plus grand en échelle, de plus en plus fort en capacité »)

Il est convaincu que ce chemin mène à une intelligence générale. Et une fois qu’on accepte que le modèle finira peut-être par être aussi intelligent que l’humain, alors la sécurité ne pourra plus être traitée comme un détail.

Puis il découvre le problème. Dario est celui qui est responsable de fabriquer le modèle, mais il réalise peu à peu que construire un modèle et décider vers où le modèle doit aller, ce sont deux choses complètement différentes. Quand le modèle sera publié, jusqu’où il sera ouvert, quelles entreprises seront partenaires, qui a le pouvoir de décision : ces questions ne deviennent pas automatiquement les siennes parce qu’il est en charge de l’entraînement.

Chez OpenAI, les gens se divisent en deux camps. L’un veut pousser la technologie vers le monde le plus vite possible ; l’autre s’inquiète : qui dirige l’entreprise et selon quels principes, peut-être plus important que les détails techniques d’une seule technologie.

Au fond, quel type de personne a le droit de diriger une entreprise qui fabrique une intelligence puissante ?

Sa réponse est que les dirigeants doivent être honnêtes, que leurs motivations doivent être sincères, et qu’ils doivent aussi vouloir sincèrement que le monde aille mieux.

La sécurité technologique finit par se transformer en jugement sur les personnes. Cette déduction est dangereuse, et elle est aussi très « logique ». Le danger, c’est qu’elle réduit tous les problèmes complexes à une seule question : cette personne est-elle fiable ou pas. Et dans cette déduction, un maillon manque toujours : qui décide si cette personne est fiable.

À l’horizon 2020, les divergences entre lui et la direction d’OpenAI deviennent très difficiles à concilier. Cette année-là, en décembre, il part d’OpenAI avec sa sœur Daniela, Jack Clark, Chris Olah et plusieurs collègues. Comme Dario aime les pandas, ce petit cercle, en interne, est surnommé « l’équipe des pandas ».

Quelques mois plus tard, ils fondent Anthropic. « Anthropic », c’est le sens du mot dans le dictionnaire : « lié à l’être humain ».

Cette fois, Dario ne compte plus confier le volant à quelqu’un d’autre.

Vingt personnes

En 2021, à San Francisco, la pandémie n’était pas encore terminée.

Anthropic venait juste d’être créé, il n’y avait que quinze à vingt personnes. La plupart du temps, tout le monde se réunit sur Zoom. Puis, un jour par semaine en plus, chacun prend sa chaise et se retrouve au parc. On mange le midi, on parle de modèles, de puissance de calcul et de recherche sur la sécurité ; on parle aussi de ce à quoi cette entreprise devrait ressembler.

Moins de vingt personnes, assises dans l’herbe à San Francisco, tenant peut-être dans les mains une demi-bolée de salade à moitié mangée, mais préoccupées par l’avenir de huit milliards de personnes.

La loi de l’échelle leur dit que l’avenir viendra forcément. Puisqu’il faut qu’il vienne, il faut bien que quelqu’un prépare la route à l’avance. Ces quatre mots « il faut bien que quelqu’un » constituent toute la justification de sa légitimité.

L’objectif qu’Anthropic s’est fixé consiste à, d’une part, construire les modèles les plus avancés, et de l’autre, étudier comment les comprendre et les contrôler ; puis transformer cette méthode de sécurité en standard pour les autres entreprises.

Dario a déjà pris un coup à OpenAI. Il comprend qu’en ne parlant de sécurité qu’en périphérie de la technologie, à la fin, on ne peut guère donner que des suggestions à ceux qui tiennent vraiment les modèles. Même si les mots sonnent bien, ce n’est jamais qu’être sur le rivage à apprendre aux gens dans l’eau comment nager.

Il faut se jeter à l’eau.

Cela rend Anthropic dès le premier jour de sa création un peu bancal. Pour savoir quels dangers comporte le modèle le plus puissant, il faut d’abord posséder le modèle le plus puissant ; pour influencer la régulation, il faut d’abord avoir du poids dans l’industrie.

Ainsi, Anthropic s’est rapidement retrouvé entraîné dans le même cycle que toutes les entreprises de grands modèles les plus à la pointe, dont aucune ne peut se soustraire : lever des fonds, acheter de la puissance de calcul, entraîner des modèles, lancer des produits, attirer des clients… puis utiliser les nouveaux revenus et la nouvelle valorisation pour obtenir davantage de puissance de calcul.

Dario dit que faire grandir l’entreprise, c’est protéger le monde. Les investisseurs aussi sont prêts à croire qu’en pariant sur Anthropic, ils investissent une entreprise d’IA plus responsable.

La subtilité de cette façon de parler, c’est que plus il gagne de l’argent, plus cela semble moral ; plus la valorisation de l’entreprise est élevée, plus la preuve de « la protection du monde » est solide.

Intérêts commerciaux et mission de civilisation se donnent des coups de pouce mutuels.

Le rôle revient à Dario pour la direction : il écrit des longs textes, parle de la civilisation, de la science et de l’avenir de l’humanité. Ce qui met ces grandes décisions en pratique, c’est sa sœur Daniela : recrutement, constitution d’équipes, recherche de fonds.

Le point de départ de l’entreprise, c’est un jugement grandiose qui est presque impossible à réfuter :

Une IA puissante arrive, et le monde a besoin d’une entreprise plus digne de confiance, qui se place en première ligne.

« Plus digne de confiance », c’est ce que la société dit elle-même.

Ce genre de récit a donné à Anthropic une forte cohésion. Ceux qui rejoignent ne cherchent pas simplement un emploi mieux payé. Ils croient que ce qu’ils font concerne des affaires majeures pour la civilisation humaine.

L’état le plus terrifiant d’une entreprise, c’est quand les employés croient vraiment qu’ils sauvent l’humanité. À partir de ce moment-là, toute expansion commerciale devient automatiquement une croisade ; toute voix dissidente devient automatiquement une trahison de l’humanité.

Pendant les premières années de sa création, Anthropic voulait prouver qu’une entreprise d’IA pouvait être plus prudente que les autres et aussi plus responsable. Ce souhait devait être sincère.

Mais la sincérité ne garantit jamais la justesse. Les gens sincères font souvent des erreurs, et ils causent davantage d’ennuis que les hypocrites, parce qu’ils ne s’arrêtent jamais pour se demander :

Responsable… mais qu’est-ce que cela veut dire exactement ?

Une entreprise privée : pourquoi décider pour le monde entier ?

Règle

Dans l’entraînement précoce des grands modèles, il faut généralement s’appuyer sur un grand nombre d’annotateurs humains pour évaluer les réponses. Quels types de réponses sont meilleures, quels contenus sont nuisibles, le modèle doit-il refuser ou non : tout d’abord, les humains doivent juger, puis on fait remonter ces préférences à la machine.

Cette méthode fonctionne, mais elle est lourde. Les annotateurs viennent de différents endroits, et leurs valeurs aussi ne sont pas les mêmes. Même si on écrit les règles de façon très précise, on ne peut pas couvrir tous les cas.

Anthropic a trouvé une autre approche : plutôt que de faire raconter à l’humain, question après question, comment répondre au modèle, il vaut mieux commencer par lui donner un ensemble de principes. En 2022, Anthropic propose l’« IA constitutionnelle ». En gros, on laisse d’abord le modèle générer une réponse, puis on le fait passer au crible à partir d’un texte de principes écrits, repérer ses défauts, puis corriger et recommencer.

Cette « constitution » s’allonge de plus en plus. Elle doit comprendre le pouvoir, comprendre les conflits d’intérêts, comprendre ce qu’est la maturité, ce qu’est la sagesse. Elle doit même réfléchir à sa propre identité, à sa situation et à son bien-être, et ne pas se réduire à un simple outil sans valeur intrinsèque.

Ce que cela façonne, c’est une personnalité.

Anthropic écrit dans sa constitution que ce document façonne directement le comportement de Claude. Il représente la vision de l’entreprise sur les valeurs et la personnalité de Claude, et c’est aussi « l’autorité finale » pour comprendre comment Claude doit agir. Dans l’histoire, ceux qui géraient ce genre de choses : il y a eu l’Église, il y a eu les empereurs, il y a eu des partis. Aujourd’hui, c’est une entreprise privée.

Mais quand l’impact d’un grand modèle sur le monde ne relève plus d’une simple consommation. Que Claude refuse ou encourage quelque chose, comment il décrit un pays, une guerre ou un régime politique : tout cela influence les produits en aval, devient une part de la manière dont les autres comprennent le monde.

Anthropic décide encore à la manière d’une entreprise, mais l’impact de cette décision ressemble de plus en plus à un ensemble de règles publiques, sans avoir à supporter aucun contrôle d’un système public.

Après avoir écrit une constitution pour les modèles, Anthropic commence à concevoir des règles de circulation pour l’industrie. En 2023, l’entreprise lance la « politique d’expansion responsable ». Un modèle qui ne sait qu’écrire des e-mails et un modèle capable de concevoir des armes biologiques et de lancer des attaques réseau complexes ne peuvent évidemment pas être gérés avec le même ensemble de méthodes. Alors Anthropic classe les modèles selon différents niveaux de risque. Plus les capacités sont fortes, plus les dégâts potentiels sont grands : l’entreprise doit alors mettre en place des mesures de sécurité toujours plus strictes.

Une entreprise privée a joué en même temps plusieurs rôles. Elle crée des modèles ; une fois les modèles créés, c’est elle qui teste à quel point ils sont dangereux ; c’est elle qui définit ce qui est dangereux, et jusqu’où il faut arrêter, c’est encore elle qui en trace la limite. Enfin, elle prend ce résultat et va dire aux régulateurs comment établir les règles.

Tour à la fois athlète et arbitre.

Anthropic a évidemment aussi pensé à cette couche. Pour éviter que, à la fin, l’entreprise ne soit entièrement avalée par les intérêts commerciaux, Anthropic conçoit aussi un trust d’intérêt à long terme. Ce trust est composé de certains membres externes qui ne détiennent pas directement d’intérêts économiques dans l’entreprise, afin que, au-delà des retours pour les actionnaires, Anthropic prenne aussi en compte les intérêts de long terme de l’humanité. D’après le design initial, le trust obtiendrait progressivement le pouvoir de nommer ou de révoquer la majorité des administrateurs, et freinerait l’entreprise dès qu’elle s’écarterait de sa mission.

Du point de vue de la gouvernance d’entreprise, un tel arrangement est assez rare. Lorsqu’ils lèvent des fonds, la plupart des startups passent leur temps à prouver aux investisseurs qu’elles connaîtront une croissance à grande vitesse. Anthropic fait l’inverse : il a construit une structure pour se protéger contre le fait qu’à l’avenir des investisseurs et la direction, dans leur quête de profits, jettent les engagements de sécurité par-dessus bord.

On ne peut pas dire que ce sont juste des postures. Anthropic se montre effectivement plus sérieux que la grande majorité des entreprises technologiques quand il s’agit de réfléchir au pouvoir, et accepte même d’en subir les ennuis. Mais depuis le début, sa réflexion porte sur la meilleure façon d’utiliser ce pouvoir, pas sur la question de savoir s’il faut l’avoir.

Une entreprise dotée d’une mission dès la naissance ne se demandera jamais « pourquoi existe-t-elle ». Elle ne se posera que « comment peut-elle exister de la meilleure façon ».

Elle ne répond pas à « qui vous donne le pouvoir ». Elle ne fait que proclamer : puisque le pouvoir est déjà entre les mains, elle entend devenir une bonne personne.

À ce stade, Dario n’est plus seulement en train de gérer une entreprise. Sa vision de la sécurité s’infiltre dans la personnalité des modèles, et dans les politiques publiques. Ensuite, il commence à parler de quel pays doit obtenir en premier une intelligence puissante, quel type de régime politique mérite d’être préservé, dans quel ordre le monde obtient l’intelligence, et surtout : qui doit en décider.

Les États-Unis obtiennent d’abord le futur

En 2024, Dario Amodei écrit (Machines of Loving Grace).

Ce nom vient d’un poème. En 1967, le poète Richard Brautigan l’écrit au California Institute of Technology : (All Watched Over by Machines of Loving Grace) :

Un poème qui parle de la réconciliation de la machine et de toutes choses. Il emprunte le titre et rédige l’une des prophéties technologiques les plus optimistes de l’histoire de l’humanité.

Une IA puissante deviendra une équipe de recherche composée d’une infinité des meilleurs scientifiques, qui lisent des articles jour et nuit, conçoivent des expériences, et condensent des décennies de progrès scientifiques en quelques années. Le cancer, les maladies infectieuses, les maladies génétiques : ils pourraient être vaincus à grande échelle. L’humanité pourrait peut-être comprendre vraiment comment la dépression, l’anxiété et l’addiction se produisent. La durée de vie pourrait augmenter, et les pays pauvres pourraient sauter l’étape de l’industrialisation.

Il porte un jugement très audacieux : si le développement de l’IA puissante se déroule bien, les avancées en biomédecine des 50 à 100 prochaines années pourraient être réalisées en seulement 5 à 10 ans.

Il est difficile de ne pas penser à son père.

Son fils a attendu sept ans, jusqu’à ce qu’un nouveau médicament soit approuvé : il pouvait sauver les autres, mais il ne pouvait plus le sauver lui. Il espère que les générations à venir n’auront plus à attendre.

Dans son monde idéal, il croit vraiment que cette technologie peut réduire les maladies, la souffrance et la mort. Il discute même spécifiquement de la manière de s’assurer que les bénéfices de l’IA ne profiteront pas uniquement aux pays riches. Il espère que l’IA aidera le développement du « Sud global », afin que le dividende technologique couvre le plus possible le monde entier.

Mais quand il commence à parler de la manière d’accéder à ce futur, les choses ne sont plus aussi « tout le monde est d’accord ».

Il pense que lorsqu’une IA puissante apparaîtra, le pays devra prendre l’avantage. Cet avantage ne peut pas se limiter à ce qu’un seul produit d’une entreprise soit meilleur, ou à grappiller quelques places dans un classement. Il doit se traduire dans les puces, la puissance de calcul, l’énergie, la chaîne d’approvisionnement, l’appareil militaire et les alliances internationales.

Les États-Unis et leurs alliés doivent obtenir davantage de semi-conducteurs avancés, construire des centres de données de plus grande taille, tout en bloquant les concurrents stratégiques pour qu’ils n’aient pas les puces nécessaires à l’entraînement des modèles les plus puissants. Quand une IA vraiment puissante sera enfin là, il faudra aussi l’utiliser pour accroître les avantages militaires et économiques, afin de créer une position que les autres pays ne pourront pas ébranler facilement.

Et ensuite, il sera temps de partager.

Il faut distribuer les médicaments ; il faut bloquer les puces. Le « pour que ceux qui viennent après n’aient plus à attendre » qu’il promettait, dans la version réelle, c’est : « pour que ceux qui sont éligibles n’aient plus à attendre ». Et qui est éligible, c’est lui qui décide.

Il utilise même l’expression « l’éternelle année 1991 » pour décrire cet état. En 1991, l’Union soviétique s’effondre et la guerre froide prend fin ; les États-Unis et leurs alliés obtiennent un avantage écrasant. Il espère que la puissante IA créera à nouveau un moment historique de ce type.

Veuillez noter la valeur de ce parallèle. Une technologie qui prétend vouloir aider l’ensemble de l’humanité, comme modèle idéal, a en réalité été une domination unipolaire la plus radicale de l’histoire.

Les quatre mots « au service de tous, en faveur du bien commun » sont joliment écrits. Mais « au service de tous » revient aux États-Unis, et « pour le bien commun » revient à Anthropic.

Puis DeepSeek apparaît. Une entreprise chinoise entraîne un modèle compétitif avec des ressources relativement limitées. Pour Dario, cela prouve au contraire que la Chine compte d’excellents chercheurs et de grandes capacités d’ingénierie. Si, ensuite, elle obtient assez de puces avancées, les entreprises chinoises pourraient entraîner les modèles les plus puissants du monde.

Donc, il ne faut encore moins lui donner les puces.

Plus l’adversaire est fort, plus cela prouve que le blocus est juste. L’adversaire prouve sa capacité—et devient alors, paradoxalement, la raison d’en être victime. Cette logique marche toujours, parce que c’est un serpent qui se mord la queue.

Il partage l’avenir en deux types. D’un côté, un monde bipolaire : des deux côtés, on peut entraîner des modèles extrêmement puissants, et la compétition du niveau de l’intelligence devient une nouvelle guerre froide. De l’autre, un monde unipolaire : les États-Unis et leurs alliés détiennent l’immense majorité de la puissance de calcul avancée ; l’Occident, grâce à ces années de tête, construit des avantages techniques, économiques et militaires, puis fixe ces avantages.

Il espère clairement le deuxième futur. Peu importe ce qui profite à l’humanité, ce qui n’aura plus besoin d’attendre, ce que les machines et toutes choses réconcilieront : devant « l’unipolarité éternelle », tout cela n’est que propos liminaires.

Il s’est déjà opposé publiquement à un certain récit. Il dit qu’il n’aime pas que les fondateurs d’entreprises d’IA se décrivent comme des prophètes qui conduisent l’humanité vers la rédemption. Il s’inquiète aussi que quelques entreprises, en se fondant sur leur avantage technologique, façonnent unilatéralement l’avenir de tout le monde.

Il s’oppose aux prophètes. Mais ce qu’il fait, c’est la même chose que ce que font les prophètes.

Il a vu tous les dangers, sauf le sien.

Revenons maintenant dans le temps jusqu’à janvier 2026, (l’adolescence technologique).

Dans cet article, Dario Amodei écrit presque lui-même, noir sur blanc, l’ensemble des critiques qu’on lui adresse à lui et à Anthropic.

Il admet que les entreprises d’IA à la pointe de la technologie sont en train d’obtenir un pouvoir que très peu d’entreprises privées ont jamais détenu dans l’histoire. Il dit même, en perçant le papier : les entreprises d’IA peuvent utiliser leurs produits pour influencer les attitudes politiques des utilisateurs, et même leur « faire du lavage de cerveau ». Il appelle le public à surveiller de près les entreprises d’IA, et demande aussi au gouvernement de se méfier du fait que ces entreprises se rapprochent trop du pouvoir de l’État.

Il s’inquiète aussi du fait que l’IA resserrera encore davantage l’étau sur la richesse et le pouvoir politique. Quelques entreprises rassemblent l’intelligence, la richesse et l’information entre leurs mains ; l’influence des citoyens ordinaires sur l’économie et le gouvernement s’affaiblit progressivement.

Il voit ces dangers. Il les écrit clairement, correctement. Peu de gens placés au centre du pouvoir avouent ainsi, de façon si franche, à quel point leur position est dangereuse.

Parce que c’est écrit trop bien, il faut forcément poser une question : et après ?

À chaque fois qu’il propose une solution, il finit toujours par revenir au même sens. Suivre sa logique jusqu’au bout signifie qu’Anthropic obtient toujours plus de pouvoir que l’original. Plus le modèle est dangereux, plus il faut qu’Anthropic reste en première ligne ; plus le gouvernement comprend mal la technologie, plus il doit s’appuyer sur le jugement d’Anthropic ; plus le public risque d’être influencé par les modèles, plus Anthropic doit se charger d’écrire les valeurs dans les modèles ; plus les autres pays sont peu dignes de confiance, plus les États-Unis et leurs entreprises d’IA doivent garder davantage de puces et de puissance de calcul.

Il reconnaît que chaque maladie, au final, il prescrit la même ordonnance : Anthropic.

Il croit qu’il est sincèrement certain que cette technologie est trop dangereuse pour être confiée à n’importe qui. Et il croit aussi que, plus tôt que la plupart des gens, il a su voir clairement ce danger.

Les gens sincères sont parfois ceux qui se trompent eux-mêmes en premier. Surtout quand le bénéfice de se mentir à soi-même est si énorme.

Il semble croire sincèrement que cette technologie est trop dangereuse pour être confiée à n’importe qui. Il croit aussi sincèrement que, plus tôt que la plupart des gens, lui a su voir clairement ce danger.

Ces deux phrases mises ensemble constituent une autorisation à soi-même complète. Il n’a jamais besoin de déclarer qu’il est le gardien de l’humanité. Il lui suffit d’écarter sans cesse ceux qu’il juge pas assez fiables : le marché, non ; le public, non ; les États autoritaires, non ; les autres entreprises, non, elles ne sont pas assez prudentes. Une fois tout le monde écarté, il reste précisément Anthropic, la meilleure candidate pour tenir le volant.

Le bout du raisonnement par élimination, c’est toujours lui-même.

Il ne croit pas qu’il y ait quelqu’un qui soit qualifié pour décider de l’avenir de l’humanité.

Alors, il a décidé de s’en charger lui-même.

La dernière entreprise privée

Le 14 août 2026, une phrase sort d’un podcast et se répand.

« À l’intérieur d’Anthropic, ils sont très confiants. Plusieurs personnes en qui j’ai confiance m’ont dit que Dario a dit : qu’un jour, Anthropic pourrait devenir la seule entreprise privée au monde. »

Celui qui dit cela s’appelle Gavin Baker, un gestionnaire de hedge funds qui a investi dans SpaceX. Il ajoute : dans ce scénario, il n’y a qu’Anthropic, puis les gouvernements de chaque pays. C’est tout.

En l’espace d’une journée, cette phrase se propage sur les réseaux sociaux.

David Sacks, ancien conseiller du président de la Maison-Blanche sur l’IA et les cryptomonnaies, et aujourd’hui coprésident du comité consultatif technologique du président, dit : « C’est trop prétentieux. C’est un peu comme SBF. »

Le lendemain en fin d’après-midi, Dario poste sur X deux longs textes pour répondre.

Le premier article parle de la régulation. Il dit que « soit centraliser, soit distribuer » est un faux dilemme ; un véritable bon système décentre au contraire le pouvoir :

« Le système judiciaire officiel peut parfois sembler rigide, élitiste… mais il protège davantage les faibles que l’autre option : la justice de la foule. Dans le meilleur des cas, des institutions peuvent donner le pouvoir à des idées plutôt qu’à des individus. »

Le deuxième texte traite de la transmission de l’information. Il dit que les émotions négatives du public envers l’IA sont une crise de confiance. Puis il écrit, dans ces deux longs textes, le passage le plus lourd :

« À ce stade, l’accusation la plus juste que je puisse formuler contre les entreprises d’IA, y compris Anthropic, c’est que nous n’avons pas encore tenu notre grande promesse : rendre le monde meilleur. La faute est entièrement la nôtre. »

« Le moyen vraiment efficace, c’est de guérir vraiment le cancer. »

Dans ces deux longs textes, pas une seule phrase ne répond directement à cette rumeur. Il pose une « vraie question », et en évite une autre « vraie question ».

Il dit vouloir vraiment guérir le cancer. Il parle d’utiliser l’IA pour faire progresser toute la médecine, afin que de nouveaux médicaments arrivent assez vite, plus vite que toute forme de maladie.

C’est un message adressé à quelqu’un qui est mort en 2006. Celui-là attendait une bouteille de médicament, depuis longtemps—sans jamais l’obtenir.

À partir de ce moment-là, il croit que la lenteur est un péché. Si une personne croit que la lenteur est un péché, alors elle considère la rapidité comme l’unique antidote. L’antidote est une bonne chose. Mais il veut que tout le monde croie que l’antidote ne peut être fabriqué que par lui.

En 1986, l’écrivain britannique Alan Moore publie une bande dessinée intitulée (Watchmen) (Gardiens), qui sera ensuite adaptée au cinéma. Dans le film, il y a un homme appelé Adrian Veidt, surnommé le roi des pharaons, qui prétend être la personne la plus intelligente du monde.

Il a vu venir le désastre plus tôt que tout le monde. La guerre nucléaire, l’apocalypse, la destruction de l’humanité par elle-même. Il s’y est préparé pendant une demi-vie. Puis il comprend que seuls des avertissements ne suffisent pas.

Alors, il a lui-même déclenché la catastrophe. En une seule nuit, quelques villes ont été effacées de la carte.

Il pense que si l’on veut que les deux superpuissances s’arrêtent pour de bon, il faut que l’humanité voie elle-même à quoi ressemble la destruction. C’est ainsi que le monde pourra être en paix dès lors.

Il est le meurtrier, mais c’est aussi celui qu’il s’est choisi pour être le sauveur.

À la fin de l’histoire, tout se déroule comme il l’avait souhaité. Il demande au Docteur Manhattan bleu, presque omniscient :

« La fin ? Adrian, rien n’est terminé. Tout ne s’arrêtera jamais. »

Lien vers la version originale