Selon ChainCatcher, le PDG d’Anthropic, Dario Amodei, a déclaré que l’entreprise entraînerait et déploierait des systèmes d’IA au rythme nécessaire pour inspirer confiance dans leur sécurité et les maintenir sous contrôle humain, plutôt que de céder aux pressions commerciales ou politiques. Évoquant l’introduction en bourse d’Anthropic, il a affirmé que cette cotation avait renforcé les finances de l’entreprise et sa détermination à faire les bons choix.

Amodei a déclaré que lui-même et ses cofondateurs avaient lancé Anthropic en partant du principe que les technologies puissantes devaient bénéficier à l’humanité. Il estime que l’IA pourrait aider les humains à condenser un siècle de progrès scientifiques et médicaux en une décennie, tout en précisant que les résultats n’en sont qu’à leurs débuts et que les expériences et les essais cliniques prennent du temps. L’IA pourrait accélérer ces processus.

Il a déclaré que les clients utilisent l’IA pour soutenir la croissance économique, aider les gens à sortir de la pauvreté, protéger la démocratie et les sociétés libres, et améliorer les services publics. Il a également évoqué des risques, notamment l’utilisation abusive par des individus ou des pays, les perturbations économiques et la perte de contrôle des systèmes d’IA, en précisant que ces conséquences dépendent des choix faits par les développeurs. Anthropic a travaillé sur des mesures de protection biologiques et cybernétiques, l’entraînement et les tests d’alignement, ainsi que des méthodes permettant d’examiner les processus internes des modèles et d’orienter leur comportement.

Amodei a décrit la création d’une entreprise prospère tout en faisant des choix judicieux en matière de sécurité comme une « concurrence ascendante », destinée à améliorer le secteur, qu’Anthropic en soit ou non à la tête à un moment donné.