Une déclaration publique intitulée « La déclaration Mis Anthropic » a été publiée récemment. Elle remet en question un apparent conflit entre les engagements d’Anthropic en matière de sécurité et son expansion commerciale. Selon Odaily, la déclaration accuse Anthropic de se précipiter pour développer une IA capable de s’améliorer récursivement et de poursuivre la superintelligence, tout en se présentant comme une entreprise spécialisée dans la sécurité de l’IA et en tirant parti de cette réputation pour faire avancer ses intérêts commerciaux et politiques.
La déclaration affirme qu’Anthropic a averti qu’une IA capable de s’améliorer récursivement pourrait concentrer le pouvoir et échapper au contrôle humain, mais que l’entreprise continue malgré tout de faire progresser cette technologie. Elle allègue également que l’entreprise se sert de son image de marque axée sur la sécurité pour attirer des investisseurs, des employés et le public, tout en affaiblissant ses engagements en matière de sécurité et en faisant pression pour obtenir une réglementation favorable à ses intérêts. Les signataires soutiennent qu’Anthropic n’est pas une entreprise d’IA sûre et appellent le public à rejeter ce qu’ils décrivent comme une extension de son pouvoir au nom de l’intérêt général.
Parmi les signataires figurent Steven Pinker, professeur de psychologie à Harvard ; Thomas Wolf, cofondateur de Hugging Face ; Oliver Hart, lauréat du prix Nobel d’économie ; Sheldon Lee Glashow, lauréat du prix Nobel de physique ; Judea Pearl, lauréat du prix Turing ; Igor Babuschkin, cofondateur de xAI ; Tristan Harris, cofondateur du Center for Humane Technology ; et Max Tegmark, fondateur du Future of Life Institute. Plusieurs lauréats de la médaille Fields ont également signé la déclaration. Anthropic prépare une introduction en bourse (IPO).
