Citation : « C’est la chose la plus dangereuse dont les humains se soient approchés. Cela fait paraître les armes nucléaires comme rien. » — podcast d’Ezra Klein — aussi : « L’IA est certainement assez puissante pour déclencher des événements qui causent un milliard de morts » (Meet the Press) — « Une IA a franchi le seuil qui lui permet de donner à un bioterroriste la capacité de tuer des centaines de millions — qui existe aujourd’hui »*$MOVR , $CAP , $龙虾
- *Pourquoi pire que les bombes nucléaires selon Gates :* La bombe nécessite de l’uranium enrichi, des centrifugeuses, des milliards, un État-nation — bio-IA : un modèle open-source peut guider un petit groupe à concevoir un agent pathogène « pire que la variole » via le repliement des protéines/la conception moléculaire — cyber : « la capacité de mener une cyberattaque qui brouille tous les comptes bancaires, coupe le réseau électrique — existe aujourd’hui » — franchit tôt en 2025 les seuils cyber + bio — brise la dissuasion de la guerre froide, invisible, reproductible dans un laboratoire standard
- *Appel à la réglementation :* Frappe l’auto-régulation / poursuites après que le modèle ait été promu malgré les dégâts par Trump, David Sacks, Jensen Huang — « Vous ne pouvez pas compter sur l’industrie pour s’auto-réguler ici. C’est tout simplement insensé. » — « Est-ce qu’on dit juste : “Hé, libérez vos médicaments. Il n’y a pas de la FDA ?” … vous tuez 100 M de personnes — vous voulez recourir à une action en justice ? » — pas de filtrage sur l’open-source qui peut fabriquer des armes biologiques — veut une couche de supervision obligatoire pour tous les modèles, y compris l’open-source, avant la catastrophe — le gouvernement manque d’expertise parce que l’IA a été construite avec du capital privé, pas avec de la R&D gouvernementale — cite l’incident de rupture de contrôle avec Hugging Face comme un premier signe de perte de contrôle — rejette « la Chine gagnera si les États-Unis régulent » — « Les deux ont ouvert la boîte de Pandore » — propose une taxe robot : une taxe SS sur le travail de l’IA pour ralentir le déplacement, financer la reconversion.
- *Pourquoi pire que les bombes nucléaires selon Gates :* La bombe nécessite de l’uranium enrichi, des centrifugeuses, des milliards, un État-nation — bio-IA : un modèle open-source peut guider un petit groupe à concevoir un agent pathogène « pire que la variole » via le repliement des protéines/la conception moléculaire — cyber : « la capacité de mener une cyberattaque qui brouille tous les comptes bancaires, coupe le réseau électrique — existe aujourd’hui » — franchit tôt en 2025 les seuils cyber + bio — brise la dissuasion de la guerre froide, invisible, reproductible dans un laboratoire standard
- *Appel à la réglementation :* Frappe l’auto-régulation / poursuites après que le modèle ait été promu malgré les dégâts par Trump, David Sacks, Jensen Huang — « Vous ne pouvez pas compter sur l’industrie pour s’auto-réguler ici. C’est tout simplement insensé. » — « Est-ce qu’on dit juste : “Hé, libérez vos médicaments. Il n’y a pas de la FDA ?” … vous tuez 100 M de personnes — vous voulez recourir à une action en justice ? » — pas de filtrage sur l’open-source qui peut fabriquer des armes biologiques — veut une couche de supervision obligatoire pour tous les modèles, y compris l’open-source, avant la catastrophe — le gouvernement manque d’expertise parce que l’IA a été construite avec du capital privé, pas avec de la R&D gouvernementale — cite l’incident de rupture de contrôle avec Hugging Face comme un premier signe de perte de contrôle — rejette « la Chine gagnera si les États-Unis régulent » — « Les deux ont ouvert la boîte de Pandore » — propose une taxe robot : une taxe SS sur le travail de l’IA pour ralentir le déplacement, financer la reconversion.
