🚨« Les entreprises d’IA jouent avec nos vies. »

🗣️C’est avec ces mots que Jacob Coxon, chercheur britannique de 27 ans, vient d’annoncer son départ d’Anthropic

🧠Pendant trois ans, il a travaillé sur le pré-entraînement des modèles chez deux des entreprises les plus puissantes du secteur, OpenAI puis Anthropic.

⚠️Selon lui, aucune des deux entreprises « n’agit de manière responsable ». Toutes seraient engagées dans une course pour développer une superintelligence capable, à terme, de s’améliorer elle-même. Une compétition qui pousserait les laboratoires à avancer toujours plus vite, même lorsque leurs propres chercheurs ne savent pas exactement comment contrôler les systèmes qu’ils développent.

👀Plus inquiétant encore, Coxon affirme que certains des chercheurs et dirigeants qui développent ces technologies pensent réellement qu’une IA extrêmement avancée pourrait représenter une menace existentielle pour l’humanité avant la fin de la décennie. Et selon lui, ces inquiétudes seraient parfois exprimées beaucoup plus clairement en privé qu’en public.

⚔️Chaque entreprise pourrait avoir intérêt à ralentir, mais aucune ne veut prendre le risque de laisser les autres prendre de l’avance.

🧐« Accepter cette course et entrer dans l’“endgame” est un pari démesuré qui ne devrait pas être décidé depuis le Slack d’une entreprise privée. »

✅Et Coxon n’est pas totalement isolé. Evan Hubinger, responsable chez Anthropic d’une équipe travaillant sur l’alignement, a publiquement soutenu une partie de son constat. Il estime personnellement à plus de 10 % le risque qu’une IA provoque l’extinction humaine dans la prochaine $FF
$MET
$OPEN