Deux chercheurs en sécurité de l’IA ont quitté Google DeepMind, déclarant qu’ils s’inquiétaient du fait que des systèmes d’IA très performants pourraient menacer l’humanité. Selon Sina Finance, Bilal Chughtai et Josh Engels rejoignent des organisations axées sur la sécurité de l’IA après avoir quitté le laboratoire.

Engels, qui a passé un an chez DeepMind, a écrit sur X qu’il pense désormais qu’il existe une chance effrayamment élevée que des systèmes d’IA puissent causer de graves dommages au cours des cinq prochaines années. Il a déclaré qu’il allait rejoindre le groupe de recherche indépendant sur la sécurité de l’IA METR afin de travailler sur l’alignement humain des grands modèles.

Chughtai a déclaré sur X, lundi, qu’il croit sincèrement que l’IA comporte un risque potentiel de détruire l’humanité. Après 18 mois passés chez DeepMind, il a rejoint la fondation à but non lucratif BlueDot Impact, qui propose des formations liées à la sécurité de l’IA.

Les départs surviennent alors que des dirigeants du secteur technologique font face à des appels croissants pour ralentir le développement de l’IA et renforcer la réglementation. D’après Sina Finance, il s’agit des derniers départs d’une série de sorties des principaux laboratoires d’IA, après les départs récents de Jacob Coxon et Joe Benton d’Anthropic.