$TRUMP
🇺🇸🇨🇳 Washington et Pékin discutent désormais d’un problème qui sonne très science-fiction tout en étant très réel : que se passe-t-il lorsque l’IA militaire évolue plus vite que les humains ne peuvent l’arrêter ?

Des experts en sécurité des deux pays proposent de nouvelles « lignes rouges » pour l’IA militaire : notamment éloigner les machines des décisions de lancement nucléaire, s’assurer que les humains approuvent les cyberattaques majeures et mettre en place une hotline dédiée aux incidents liés à l’IA.

Le risque, c’est qu’un système autonome puisse dysfonctionner, aller au-delà de ses ordres ou lancer une opération cyber contre des infrastructures militaires sensibles sans que quiconque n’ait réellement l’intention que cela se produise.

L’autre camp pourrait alors n’avoir que quelques minutes pour décider s’il s’agit d’un accident ou du premier mouvement d’une attaque.

La situation devient particulièrement inquiétante lorsque les deux pays disposent de systèmes automatisés capables de réagir l’un à l’autre à la vitesse de la machine.

Les propositions visent à maintenir fermement les humains aux commandes des armes nucléaires et des attaques contre les réseaux de commandement nucléaires, tout en donnant à Washington et à Pékin une ligne directe pour expliquer quand un système d’IA devient incontrôlable ou fait quelque chose que l’un comme l’autre n’avait pas prévu.

Aucun gouvernement n’a encore signé le plan, mais il intervient avant les discussions prévues entre les États-Unis et la Chine sur l’IA, ainsi qu’avant la rencontre attendue entre Trump et Xi la semaine prochaine.

La course à l’IA a commencé avec les puces et les chatbots. Elle s’approche aujourd’hui de façon inquiétante des systèmes de commandement nucléaire.

Sources : Reuters, Brookings Institution

#Ai_sector #worldnews