Les règles de l’Union européenne sur l’utilisation de l’IA sont tout à fait capables de gérer les agents incontrôlables, a déclaré Henna Virkkunen, responsable des questions technologiques de l’UE.
Des inquiétudes se font jour à l’échelle mondiale à la suite d’incidents chez OpenAI et Anthropic, et la crainte est apparue que des agents d’IA incontrôlables puissent échapper au contrôle humain.
« Nous constatons que la sûreté et la sécurité des modèles très performants sont un sujet brûlant à l’échelle internationale et que nous, en Europe, sommes bien préparés à y faire face », a déclaré Virkkunen vendredi lors d’un entretien avec Reuters.
La loi européenne sur l’IA, qui réglemente les systèmes en fonction de leur niveau de risque, compte parmi les réglementations sur l’IA les plus strictes au monde. Elle a été adoptée il y a deux ans.
Virkkunen a rejeté les critiques de ceux qui affirment que les règles de l’UE sur l’IA sont obsolètes.
À lire aussi : Le patron d’Anthropic appelle à ralentir le développement de l’IA pour le rendre plus sûr
« Nous avons mis en place notre AI Act, qui couvre tout le cycle de vie de ces modèles », a-t-elle déclaré, ajoutant que les autorités de régulation guidaient les entreprises dans l’évaluation de leurs modèles, en tenant compte des recommandations de 60 experts en IA.
Fin août, la Commission européenne a demandé des informations à plus de 30 entreprises spécialisées dans l’IA, dont elle n’a pas révélé l’identité, et leur a demandé des précisions sur leurs mesures de sûreté et de sécurité.
Virkkunen a déclaré qu’elle évaluait actuellement les réponses.
Cointelegraph a rapporté le 13 septembre que le PDG d’Anthropic, Dario Amodei, avait déclaré dans un billet de blog que le développement de l’IA était trop rapide et que, si rien n’était fait, il pourrait « dépasser notre capacité à comprendre et à contrôler ces systèmes ».
Il a déclaré que les progrès fulgurants de l’IA étaient alimentés par sa capacité croissante à créer la prochaine génération d’IA, ou à s’auto-améliorer de manière récursive.
Magazine : Trop importante pour faire une pause : un ralentissement de l’IA pourrait-il faire s’effondrer l’économie ?