La responsable des technologies de l’Union européenne, Henna Virkkunen, a déclaré que les règles de l’Union en matière d’IA étaient suffisamment strictes pour faire face aux risques liés aux agents d’IA incontrôlables, selon une interview accordée à Reuters vendredi. D’après Cointelegraph, Virkkunen a affirmé que l’Europe était « bien équipée » pour répondre aux préoccupations de sûreté et de sécurité concernant les modèles très performants, alors que l’attention mondiale s’intensifie après des incidents impliquant OpenAI et Anthropic et dans un contexte de craintes que les agents d’IA échappent au contrôle humain.

Virkkunen a défendu la législation européenne sur l’IA face aux critiques selon lesquelles elle serait dépassée. Elle a déclaré que la loi couvre l’ensemble du cycle de vie des modèles d’IA et reste l’un des cadres réglementaires les plus stricts au monde. D’après Cointelegraph, la législation sur l’IA repose sur une approche fondée sur les risques et a été adoptée il y a deux ans. Elle a également indiqué que les autorités de réglementation aidaient les entreprises à évaluer leurs modèles et s’appuyaient sur les recommandations de 60 experts en IA. Fin août, la Commission européenne a demandé à plus de 30 entreprises d’IA non identifiées des informations sur leurs mesures de sûreté et de sécurité, et Virkkunen a déclaré qu’elle examinait actuellement les réponses. Ces déclarations interviennent alors que le débat s’intensifie sur le rythme du développement de l’IA. Le PDG d’Anthropic, Dario Amodei, a récemment averti qu’une progression sans garde-fous pourrait dépasser la capacité de l’humanité à comprendre et à contrôler ces systèmes.