Les travailleurs des principales entreprises et institutions de recherche en IA subissent une pression mentale croissante : ils s’inquiètent du fait que les systèmes qu’ils construisent pourraient causer de graves dommages à la société. Selon Sina Finance, des personnes au fait de la question ont indiqué que l’Institut britannique pour la sécurité de l’IA a vu plusieurs de ses employés prendre des congés maladie et chercher à se faire accompagner psychologiquement en raison de la contrainte.

Quatre personnes au fait de la question ont déclaré que des calendriers de tests rigoureux pour les modèles d’IA à venir, combinés à des inquiétudes liées à un déploiement rapide et à l’amélioration continue des capacités, ont entamé le moral et contribué à l’épuisement professionnel au sein de l’AISI. Des employés d’Anthropic, d’OpenAI et de Google DeepMind ont également fait état publiquement d’inquiétudes similaires, certains chercheurs de premier plan étant partis parce que le fardeau psychologique était trop lourd, ou décidant que leurs produits ne devraient pas être ouverts au public.

Un employé de DeepMind a déclaré que les travaux sur la sécurité de l’IA peuvent mener à l’épuisement et qu’ils ressemblent à une tâche impossible. Il a ajouté que la création de systèmes d’IA comporte des risques pour la santé mentale, car personne ne peut prédire comment la technologie sera utilisée. Il a également indiqué que de nombreuses personnes sont découragées : certaines partent, tandis que d’autres demandent un congé pour raisons de santé mentale.

L’article a également indiqué que plus de 10 chercheurs seniors ont quitté OpenAI, Anthropic et DeepMind au cours des deux dernières années, en invoquant des inquiétudes concernant les priorités de la direction et le rythme des progrès techniques. Ces dernières semaines, l’ancien chercheur d’Anthropic et d’OpenAI Jacob Coxon a démissionné, prévenant que ces entreprises pariaient sur l’avenir de l’humanité.