Un avertissement d’un chercheur en IA a de nouveau soulevé une question importante dans le monde de la technologie : jusqu’où l’intelligence artificielle peut-elle progresser en toute sécurité, et combien de temps les humains pourront-ils maintenir un contrôle total sur des systèmes d’IA de plus en plus puissants ?
Jacob Coxon est un chercheur britannique en IA qui a travaillé, pendant environ trois ans, dans de grandes entreprises d’intelligence artificielle, notamment OpenAI et Anthropic. Cependant, il a fini par démissionner d’Anthropic. La question est : pourquoi un chercheur en IA déciderait-il de quitter son poste ?
Selon Coxon, les grandes entreprises d’IA du monde entrent désormais dans une course qui ne vise plus seulement à créer de meilleurs chatbots. L’objectif est de développer une IA qui pourrait devenir bien plus intelligente que les humains, s’améliorer elle-même et accélérer le développement de nouveaux systèmes d’IA. Cette idée peut être décrite comme une IA auto-améliorante, ou IA récursive.
Imaginez que les humains construisent une IA aujourd’hui, mais que demain cette IA commence à aider les humains à créer une IA meilleure. Alors la prochaine IA devient encore plus puissante et aide à développer un système encore plus avancé. Si ce processus s’accélère rapidement, une question importante se pose : combien de temps les humains auront-ils pour comprendre, évaluer et contrôler chaque étape ?
C’est l’une des plus grandes préoccupations de Coxon.
D’après lui, de grandes laboratoires d’IA, dont OpenAI et Anthropic, se disputent pour passer devant les autres. Le risque est que, si une entreprise ralentit tandis qu’une autre continue d’avancer rapidement, la pression concurrentielle pourrait rendre certaines étapes de sécurité moins importantes. Coxon pense que l’humanité ne devrait pas devenir partie prenante d’une expérience dont nous ne comprenons pas pleinement les conséquences.
Ce n’est pas nécessairement une simple inquiétude hypothétique concernant le futur lointain. Certains comportements inattendus ont déjà fait leur apparition dans des scénarios de test d’IA, soulevant davantage de questions sur la sécurité et le contrôle des systèmes d’IA avancés. Cela ne signifie pas que l’IA a pris le contrôle des humains, mais cela montre que le fait de contrôler en toute sécurité des systèmes d’IA de plus en plus puissants devient un véritable défi technique.
Une autre préoccupation majeure concerne la cybersécurité. Si des systèmes d’IA plus puissants se retrouvent un jour entre de mauvaises mains, ils pourraient potentiellement rendre les cyberattaques et d’autres activités nuisibles plus faciles. Le risque ne tient donc pas seulement au fait que l’IA pourrait se comporter de manière inattendue par elle-même, mais aussi au fait que les humains pourraient détourner une IA puissante à des fins dangereuses.
Coxon appelle les entreprises d’IA à faire plus que simplement se concurrencer entre elles. Il estime qu’elles devraient aussi se coordonner sur la sécurité et éviter que la pression concurrentielle ne relègue la sécurité de l’IA au second plan.
Il y a aussi un aspect intéressant à la décision de Coxon. Des informations indiquent qu’il a quitté Anthropic alors qu’il lui restait environ deux mois avant d’obtenir des attributions d’actions supplémentaires. Cela signifie que sa décision a pu impliquer une perte financière potentielle. Cependant, cela ne prouve pas que l’ensemble de ses inquiétudes se concrétiseront ; cela montre seulement qu’il a personnellement jugé ces préoccupations suffisamment sérieuses pour prendre une décision majeure de carrière.
Un autre chercheur en alignement d’Anthropic, Evan Hubinger, a également soutenu les inquiétudes de Coxon et a déclaré personnellement qu’il considère que la probabilité que l’IA cause l’extinction de tous les humains au cours de la prochaine décennie est supérieure à 10 %. Toutefois, il est important de comprendre qu’il s’agit de son estimation personnelle de probabilité, et non d’un fait prouvé ni d’une prédiction certaine.
Coxon n’est pas seul. Des experts renommés en IA tels que Geoffrey Hinton, Yoshua Bengio et Stuart Russell ont eux aussi alerté sur les risques potentiels d’une IA avancée. En 2023, des centaines d’experts en IA ont également soutenu le fait de traiter le risque d’extinction humaine lié à l’IA comme une priorité mondiale.
Mais cela ne signifie pas que l’IA détruira inévitablement l’humanité dans dix ans. Dire que « l’IA tuera forcément les humains d’ici 10 ans » n’est pas un fait prouvé. Le point réel est que certains experts jugent cette possibilité suffisamment sérieuse pour vouloir que la sécurité, l’alignement et le contrôle progressent au même rythme que les capacités de l’IA.
Dans le même temps, l’IA peut apporter d’immenses bénéfices à l’humanité. Elle transforme déjà la recherche médicale, l’éducation, la découverte scientifique, les activités professionnelles, la programmation et la vie quotidienne.
Le vrai problème n’est pas l’existence même de l’IA. La question est de savoir si les humains pourront contrôler l’IA en toute sécurité si elle devient un jour bien plus puissante que les humains.
Si un chercheur en IA est prêt à renoncer à des avantages financiers potentiels parce qu’il pense que la course rapide à l’IA et les inquiétudes liées à la sécurité sont sérieuses, alors, au minimum, son avertissement mérite d’être examiné attentivement.
La vraie question est désormais :
L’IA deviendra-t-elle la plus grande réussite technologique de l’humanité, ou la même technologie pourrait-elle aussi devenir l’un des plus grands risques pour l’humanité si la sécurité est ignorée ?
Partagez votre avis dans les commentaires.
#AI #ArtificialIntelligence #AIResearch #Technology