L’intelligence artificielle s’améliore pour faire davantage que répondre à des questions. Les systèmes d’IA aident désormais à coder, à faire de la recherche, de l’analyse et d’autres tâches qui étaient autrefois assurées presque entièrement par des personnes. Cela soulève une nouvelle question : que se passe-t-il lorsque l’IA commence à jouer un rôle plus important dans la construction de la prochaine génération d’IA ?
OpenAI appelle désormais à des normes internationales pour aider à répondre à cette question. Dans une publication du 21 septembre intitulée « Building standards for the next phase of AI » (Élaborer des normes pour la prochaine phase de l’IA), OpenAI a proposé un effort international mené par les États-Unis pour créer des normes techniques communes pour l’IA de pointe. L’entreprise affirme que ces normes pourraient aider les pays à mesurer les capacités de l’IA, à évaluer les risques, à tester les mesures de protection et à signaler les incidents graves à l’aide de méthodes plus cohérentes.
Points clés
OpenAI veut des normes internationales pour évaluer l’IA de pointe.
La proposition couvre les capacités, les risques, les mesures de protection et le signalement des incidents.
OpenAI affirme que l’auto-amélioration récursive entièrement autonome ne se produit pas aujourd’hui.
L’entreprise veut que le contrôle humain reste au cœur du dispositif à mesure que l’IA devient plus performante.
Des organisations existantes de sécurité de l’IA pourraient contribuer à élaborer des normes techniques communes.
OpenAI veut un cadre commun pour l’IA de pointe
L’idée de base est assez simple. Il n’est pas nécessaire que chaque pays crée une méthodologie entièrement différente pour évaluer les dangers posés par l’IA avancée. Selon OpenAI, la standardisation des approches techniques peut offrir aux nations, aux chercheurs et à la communauté IA un moyen efficace d’évaluer leur IA, de plus en plus sophistiquée. Cela devient d’autant plus pertinent lorsque des incidents liés à l’IA surviennent au-delà des frontières.
L’entreprise ne propose pas une seule loi mondiale sur l’IA. Elle veut plutôt que les pays développent des normes compatibles que les gouvernements pourront ensuite décider d’utiliser au sein de leurs propres systèmes de réglementation. Cette différence est importante car les normes suggérées ne deviennent pas immédiatement des exigences en matière d’autorisation ou de certification pour toutes les technologies d’intelligence artificielle. En revanche, les gouvernements conservent le pouvoir de déterminer comment les normes s’appliqueront dans leur juridiction.
L’auto-amélioration récursive fait partie du débat
L’une des parties les plus intéressantes de la proposition d’OpenAI est sa discussion sur l’auto-amélioration récursive (RSI). Le concept décrit un futur où des systèmes d’IA pourraient aider de plus en plus les chercheurs à développer des systèmes d’IA plus performants. En termes simples, l’IA pourrait devenir une partie du processus d’amélioration de l’IA elle-même.
Cela pourrait potentiellement accélérer la recherche sur l’IA. Mais cela soulève aussi une question de sécurité difficile : jusqu’où la supervision humaine doit-elle rester dans la boucle si les systèmes d’IA sont fortement impliqués dans le développement des futurs modèles ?
OpenAI affirme que l’auto-amélioration récursive entièrement autonome n’a pas lieu aujourd’hui. L’entreprise soutient aussi que cette direction ne devrait pas être poursuivie si elle ne peut pas être menée en toute sécurité, tout en maintenant le contrôle humain. Cela rend l’évaluation et les tests de sécurité encore plus importants à mesure que les systèmes d’IA deviennent capables de gérer des tâches de recherche et développement de plus en plus complexes.
Les normes de sécurité de l’IA pourraient devenir plus importantes
OpenAI cite également des organisations de sécurité de l’IA existantes et des réseaux dans le monde entier comme éléments constitutifs possibles de cette démarche. L’entreprise mentionne spécifiquement des instituts de sécurité de l’IA et des organisations associées dans des pays comme les États-Unis, le Royaume-Uni, le Canada, la France, l’Allemagne, le Japon, la Corée du Sud, Singapour, l’Inde, le Kenya et l’Australie.
Plutôt que de laisser chaque pays développer sa propre approche technique entièrement distincte, OpenAI veut que ces groupes travaillent à des normes capables de se compléter. La proposition appelle aussi à la participation des développeurs d’IA, des chercheurs, des universitaires et d’experts techniques indépendants. OpenAI affirme que les normes devraient reposer sur des mesures techniques plutôt que sur les intérêts d’une entreprise ou d’un pays en particulier.
Pourquoi c’est important
Le calendrier est notable. Les entreprises d’IA construisent des systèmes capables d’exécuter de plus en plus de tâches en plusieurs étapes avec moins d’intervention humaine directe, tandis que les gouvernements cherchent encore à déterminer comment réglementer la technologie.
Reuters a rapporté qu’OpenAI veut que les États-Unis jouent un rôle moteur dans l’élaboration de normes techniques internationales pour l’IA avancée. Le défi le plus important pourrait être d’obtenir que les pays et les entreprises s’accordent sur ce que ces normes devraient mesurer et sur la manière dont elles devraient être appliquées.
Pour l’instant, la proposition d’OpenAI vise à créer une base technique commune avant que l’IA de pointe ne devienne encore plus performante. À mesure que l’IA commence à faire davantage du travail impliqué dans le développement de l’IA elle-même, disposer d’une méthode partagée pour mesurer les capacités, les risques et les mesures de protection pourrait devenir un élément de plus en plus important du débat.
Cet article a été publié à l’origine sous le titre : « OpenAI pousse pour des normes mondiales de sécurité de l’IA alors que l’IA devient plus autonome sur Crypto Breaking News – votre source de confiance pour l’actualité crypto, les nouvelles sur le Bitcoin et les mises à jour de la blockchain ».