La sécurité de l’IA de pointe pourrait devenir une obligation légale pour les développeurs américains dans le cadre d’une proposition bipartisane du Sénat.
Le projet exigerait que les entreprises qui construisent des modèles réduisent les risques catastrophiques et pourrait permettre aux autorités fédérales de bloquer des mises en service non sûres.
Le chef de la majorité au Sénat, John Thune, le président de la commission du commerce, Ted Cruz, et la sénatrice Amy Klobuchar sont en discussions, la sénatrice Maria Cantwell étant impliquée. Reuters a rapporté que la mesure remplacerait les engagements volontaires de sécurité par des obligations contraignantes pour les développeurs de modèles de pointe.
Des engagements volontaires au devoir fédéral de diligence
La proposition met l’accent sur un « devoir de diligence » juridique couvrant les développeurs de systèmes d’IA de pointe. Les exigences en discussion incluent la conception de modèles visant à minimiser les dommages catastrophiques, la possibilité pour le gouvernement d’intervenir contre des mises en circulation dangereuses et l’autorisation de recours devant les tribunaux contre les décisions.
Le cadre pourrait impliquer des laboratoires nationaux et des partenaires gouvernementaux pour tester des systèmes avancés. Klobuchar a déclaré à Reuters que son objectif est « la supervision par le gouvernement des plus grands risques posés par les modèles d’IA ». Elle a indiqué que les développeurs devraient travailler avec des experts gouvernementaux pour vérifier et tester les modèles avancés.
Cruz a décrit des préoccupations similaires. Dans un post X, il a déclaré qu’il travaille avec Klobuchar et Thune pour « traiter les risques catastrophiques liés aux menaces biologiques ou nucléaires ». Les discussions portent sur les développeurs de pointe plutôt que d’imposer des exigences identiques à l’ensemble de l’industrie de l’IA.
Les parlementaires réagissent aux inquiétudes croissantes concernant l’IA de pointe
Reuters a identifié Alphabet (maison mère de Google), Anthropic et OpenAI parmi les entreprises américaines développant des modèles d’IA de pointe. Les négociations examinent si des règles fédérales devraient primer sur certaines restrictions imposées par des États, en écho à des appels en faveur d’un cadre national cohérent.
L’IAPP a indiqué que les discussions faisaient suite aux inquiétudes soulevées par le chercheur d’Anthropic Jacob Coxon après sa démission. Coxon a averti au sujet de la concurrence pour développer des systèmes d’IA capables de s’améliorer eux-mêmes.
Le sénateur Josh Hawley enquête sur le rôle d’OpenAI dans la cyberattaque sur Hugging Face de juillet. Selon l’IAPP, le sénateur Bernie Sanders travaille sur une proposition de loi visant à suspendre le développement de la superintelligence.
OpenAI a soutenu des règles fédérales contraignantes. Dans un article de politique daté du 9 septembre, le directeur des Affaires mondiales de l’entreprise, Chris Lehane, a appelé à « une réglementation nationale obligatoire de sécurité de l’IA fondée sur les capacités ».
Les règles de l’UE offrent un modèle existant pour la supervision
L’Union européenne applique déjà des obligations aux fournisseurs de modèles d’IA à usage général présentant des risques systémiques. Ces règles couvrent les évaluations de modèles, la gestion des risques, la déclaration des incidents et les responsabilités en matière de cybersécurité.
Les modèles dépassant 10^25 FLOP sont présumés présenter un risque systémique, bien que la Commission européenne puisse classer des modèles à puissance de calcul inférieure en fonction de leurs capacités ou de leurs effets.
Goldman Sachs Research estime que l’investissement mondial dans l’IA atteindra 1 000 milliards de dollars en 2026, dont 581 milliards aux États-Unis. Des exigences supplémentaires en matière de tests, de cadre juridique et de documentation pourraient influer sur les calendriers de mise sur le marché et les coûts.
Le calendrier du projet de loi reste incertain. Reuters a rapporté que la Chambre dispose d’une semaine de session avant les élections législatives de mi-mandat du 3 novembre, tandis que le Sénat a trois semaines.
L’article intitulé « Frontier AI Safety Bill Would Turn Voluntary Standards Into Legal Duty » a d’abord été publié sur Coinfea.