Le 5 juin, heure de Pékin, la startup AI Anthropic a publié un article de blog appelant les meilleurs laboratoires d'IA du monde à réfléchir sérieusement à ralentir le développement de modèles de pointe. L'entreprise avertit que la vitesse d'évolution actuelle des systèmes d'IA est trop rapide et pourrait bientôt permettre une "amélioration récursive autonome" sans intervention humaine, les risques sociaux qui en découlent ne doivent pas être ignorés.
Les données internes d'Anthropic montrent que les capacités de son modèle le plus avancé améliorent à une vitesse incroyable. Ce qu'on appelle "amélioration récursive autonome" signifie que le système d'IA a la capacité d'aider à améliorer le modèle de prochaine génération, d'optimiser ses propres capacités ou d'accélérer le processus de recherche et développement.
Une fois que cela ne dépendra plus fortement des ingénieurs humains, la vitesse des avancées en IA pourrait largement dépasser les cadres de régulation et d'évaluation de sécurité existants. Les auteurs de l'article, le responsable de la recherche d'Anthropic et le directeur des politiques, écrivent : "Nous pensons que ce serait une bonne chose si le monde pouvait avoir l'option de ralentir ou de suspendre temporairement le développement de l'IA de pointe pour permettre aux structures sociales et aux recherches sur la cohérence de rattraper le rythme des avancées technologiques." L'article propose également d'atteindre un accord mondial sur la manière de ralentir la R&D et d'établir un mécanisme de vérification pour superviser la conformité des pairs.
Cet appel a suscité un intérêt qui va bien au-delà du simple aspect technique. D'une part, Anthropic se trouve au cœur d'une concurrence intense - elle vient de finaliser un tour de financement, avec une valorisation atteignant 965 milliards de dollars, dépassant pour la première fois son concurrent OpenAI (852 milliards de dollars), et a déjà soumis une demande d'IPO en secret, avec l'intention de débarquer sur Wall Street dès cet automne.
D'un autre côté, sa position sur la sécurité est depuis longtemps controversée. Les investisseurs en capital-risque, ainsi que le conseiller informel de Trump, David Sacks, ont accusé l'entreprise de promouvoir un "agenda de capture réglementaire", c'est-à-dire d'étouffer la concurrence sous couvert de régulation. Le professeur Ethan Mollick de la Wharton School de l'université de Pennsylvanie a déclaré que l'article d'Anthropic "contient une certaine réflexion personnelle, mais aussi des éléments marketing", mais que son évaluation de l'orientation récente de l'IA "mérite d'être suivie".
Il convient de noter que cet appel intervient à un moment où le cadre réglementaire de l'IA aux États-Unis prend rapidement forme. Le 2 juin, le président Trump a signé un décret exécutif exigeant qu'OpenAI, Google, Anthropic et d'autres entreprises d'IA ouvrent une fenêtre de test de cybersécurité allant jusqu'à 30 jours avant de publier leurs derniers modèles. En parallèle, le Congrès américain avance sur une législation bipartite sur l'IA, exigeant que les principaux développeurs révèlent les risques de sécurité et de sûreté de leurs nouveaux modèles.
Cela signifie que la question de savoir si la "compétition IA doit être limitée" passe des débats internes de l'industrie au cœur des discussions politiques et des marchés de capitaux. Anthropic ne mâche pas ses mots, propulsant sans aucun doute ce sujet à un niveau supérieur de prise de décisions publiques.