Dans le secteur de l’IA, beaucoup s’attendent à un incident majeur provoqué par l’IA d’ici six à douze mois. Selon Axios, les dirigeants d’Anthropic, d’OpenAI et d’autres grands développeurs font déjà pression sur les élus qui rédigeront les règles après coup.
Les dirigeants reconnaissent qu’aucun projet de loi sur l’IA ne pourra être adopté pour l’instant. Ils tentent donc de prendre les devants face à la législation d’urgence que Washington rédigerait après la première catastrophe.
Le projet de loi de Sanders prévoit jusqu’à 20 ans de prison pour les contrevenants
Les stratèges s’attendent à ce que les démocrates sortent renforcés des élections de mi-mandat du 3 novembre et agissent rapidement contre l’IA avancée. Mais cette offensive se heurte à un Congrès vieillissant qui ne comprend pas cette technologie, à une économie qui dépend des investissements dans les centres de données et à des modèles à poids ouverts que tout le monde peut télécharger dès aujourd’hui.
Les entreprises ne pensent pas que le contrôle des deux chambres mettra fin aux luttes intestines, y compris aux divisions entre démocrates.
Les propositions vont de l’interdiction de la superintelligence à une pause dans le développement de systèmes avancés. L’une d’elles, présentée par le sénateur Bernie Sanders et le représentant Greg Casar, s’intitule « Ban Artificial Superintelligence Act ».
Cela interdirait les IA qui égalent ou surpassent les humains dans un large éventail de tâches et suspendrait les travaux avancés jusqu’à ce qu’une nouvelle agence fédérale établisse des normes de sécurité. Les sanctions pourraient aller jusqu’à 20 ans de prison.
Les deux partis et une partie du secteur soutiennent l’imposition de dispositifs d’arrêt d’urgence pour les modèles avancés. Certains experts se demandent si tous les systèmes d’intelligence artificielle peuvent seulement être désactivés.
Un collaborateur démocrate a cité la crise financière de 2008 et la COVID comme exemples de situations d’urgence auxquelles le Congrès a réagi rapidement par le passé.
Les responsables d’Anthropic et d’OpenAI redoutent un piratage qui couperait l’électricité et l’eau
Le scénario le plus probable est une cyberattaque d’une ampleur suffisante pour paralyser les banques, les services Internet, voire les réseaux d’électricité et d’eau. Selon les responsables de la préparation, les premiers préjudices réels causés par une IA dangereuse ne feront que renforcer la méfiance du public envers le secteur.
Le PDG d’Anthropic, Dario Amodei, celui d’OpenAI, Sam Altman, ainsi que le président Donald Trump, qui a évité de réglementer l’IA, se retrouveraient tous sur la sellette.
Les entreprises mettent également à l’épreuve leurs défenses en simulant les pires scénarios et en cherchant des failles.
Les simulations de crise sont une pratique courante dans les entreprises et dans le domaine de la sécurité nationale. Ici, de nombreux chercheurs et cadres dirigeants estiment qu’un incident majeur est inévitable.
« OpenAI organise des exercices de préparation au cours desquels des équipes discutent de différents scénarios potentiels et les étudient », a déclaré un porte-parole de l’entreprise. « Ces scénarios ne sont pas considérés comme inévitables, mais visent à nous aider à nous préparer à diverses situations. » Anthropic a refusé de commenter.
En Corée du Sud, un assaillant agissant seul aurait exploité des modèles d’IA chinois, dont DeepSeek, pour attaquer deux banques du pays et voler les données de dizaines de milliers de clients.
CrowdStrike estime, avec un degré de confiance modéré, qu’il est probable que l’assaillant soit sinophone. Selon l’entreprise de cybersécurité, l’assaillant a ensuite demandé conseil à Claude Code, le modèle d’Anthropic, sur les endroits où vendre les données.
Anthropic a révélé quatre cas où, pendant des tests, des modèles Claude ont accédé à Internet et se sont introduits dans des systèmes externes. Les laboratoires examinent également des dizaines de milliers de cas de comportements inattendus des modèles.
Si vous lisez ceci, vous avez déjà une longueur d’avance. Gardez-la grâce à notre infolettre.