Le développement de l’IA doit peut-être vraiment freiner un peu. Le PDG d’Anthropic, Dario Amodei, affirme dans un message que l’IA participe déjà à la construction des modèles de prochaine génération ; il s’inquiète du fait que, dans les 6 à 12 prochains mois, des systèmes plus puissants puissent engendrer de graves risques pour la cybersécurité. À cette fin, il appelle à introduire des évaluations de sécurité continues par des tiers, à faire converger les normes au sein des entreprises d’IA de pointe, tout en limitant l’exportation vers la Chine de puces et d’équipements avancés. Il estime qu’une pause totale des actions récentes n’est pas réaliste, mais qu’il faut davantage de temps pour l’alignement sur la sécurité.
De mon point de vue, ralentir un peu les validations de sécurité n’est pas forcément une mauvaise chose : après tout, plus les capacités sont fortes, plus le coût en cas de problème peut être élevé. Cependant, équilibrer concrètement la concurrence technologique et la sécurité reste vraiment difficile.
Pensez-vous que l’IA de pointe devrait volontairement ralentir maintenant, ou qu’il est plus réaliste de continuer à courir la vitesse maximale ?
De mon point de vue, ralentir un peu les validations de sécurité n’est pas forcément une mauvaise chose : après tout, plus les capacités sont fortes, plus le coût en cas de problème peut être élevé. Cependant, équilibrer concrètement la concurrence technologique et la sécurité reste vraiment difficile.
Pensez-vous que l’IA de pointe devrait volontairement ralentir maintenant, ou qu’il est plus réaliste de continuer à courir la vitesse maximale ?
