Bilal Chughtai, un ancien chercheur en IA de Google DeepMind, a averti que l’humanité disposait de très peu de temps pour empêcher l’IA de causer des dommages généralisés. D’après Sina Finance, il a écrit sur X et LinkedIn lundi, indiquant qu’il avait vu le développement de l’IA de ses propres yeux chez Google et qu’il était profondément inquiet de la trajectoire actuelle, ajoutant qu’il croyait vraiment que l’IA pourrait tuer tout le monde.

Chughtai a déclaré qu’il travaillait principalement sur la sécurité de l’IA et la recherche en matière d’alignement chez DeepMind. C’est le dernier chercheur en IA à lancer un avertissement sévère au sujet de cette technologie, affirmant que ses capacités progressent sans nécessairement s’aligner sur les objectifs humains et qu’elle pourrait, à terme, détruire l’humanité.

Jacob Coxon, un jeune développeur d’IA, a démissionné plus tôt ce mois-ci et a accusé ses anciens employeurs, Anthropic PBC et OpenAI, de miser sur des vies dans une course vers une IA superintelligente. Le week-end dernier, le PDG d’Anthropic, Dario Amodei, a publié un essai de 3 800 mots appelant l’industrie de l’IA à ralentir le développement des systèmes les plus avancés afin d’éviter des dommages catastrophiques s’ils venaient à échapper au contrôle humain.

L’appel d’Amodei a suscité un soutien rare de la part du PDG d’OpenAI, Sam Altman, et du PDG d’IA de SpaceX, Elon Musk. Chughtai a déclaré qu’il restait optimiste quant au fait que l’IA pouvait encore être développée en toute sécurité, et que son prochain emploi se concentrerait aussi sur cet objectif. Son profil LinkedIn indique qu’il travaille désormais pour l’organisation à but non lucratif BlueDot Impact, qui dispense une formation à la sécurité de l’IA à des personnes issues de différents domaines.