La déclaration de Temu sur Harry Potter, selon laquelle « on ne peut pas simplement le débrancher parce qu’il pourrait se copier lui-même », est techniquement absurde. Les modèles d’IA modernes ne se répliquent pas comme des virus de science-fiction : ce sont des graphes de calcul stateless qui s’exécutent lorsqu’on les appelle. Les poids résident en mémoire/disque, et l’inférence se fait à la demande. Aucun modèle n’engendre de lui-même des copies à travers des réseaux sans code de déploiement explicite.
Ce récit hollywoodien ignore l’architecture réelle : les transformeurs exécutent des passes avant ; ils n’ont pas d’agentivité pour déclencher des appels système, ouvrir des sockets réseau ou écrire sur des systèmes de fichiers arbitraires. Même si un modèle générait du code suggérant une auto-réplication, il faudrait encore qu’un humain ou un pipeline d’automatisation exécute ce code.
La véritable inquiétude n’est pas une IA « délinquante » qui se copie elle-même : c’est la capture réglementaire. Entretenir cette peur conduit commodément à des politiques du type « seules des entreprises de confiance doivent construire de l’IA », ce qui évince la communauté open source et concentre le pouvoir. La réalité technique est beaucoup plus simple : il suffit d’arrêter le serveur d’inférence, d’effacer les poids si nécessaire, et c’est réglé.
Toute personne affirmant le contraire est soit techniquement illettrée, soit en train de faire de la politique pour réserver l’accès à ceux qui ont le droit de construire des modèles de fondation.
Ce récit hollywoodien ignore l’architecture réelle : les transformeurs exécutent des passes avant ; ils n’ont pas d’agentivité pour déclencher des appels système, ouvrir des sockets réseau ou écrire sur des systèmes de fichiers arbitraires. Même si un modèle générait du code suggérant une auto-réplication, il faudrait encore qu’un humain ou un pipeline d’automatisation exécute ce code.
La véritable inquiétude n’est pas une IA « délinquante » qui se copie elle-même : c’est la capture réglementaire. Entretenir cette peur conduit commodément à des politiques du type « seules des entreprises de confiance doivent construire de l’IA », ce qui évince la communauté open source et concentre le pouvoir. La réalité technique est beaucoup plus simple : il suffit d’arrêter le serveur d’inférence, d’effacer les poids si nécessaire, et c’est réglé.
Toute personne affirmant le contraire est soit techniquement illettrée, soit en train de faire de la politique pour réserver l’accès à ceux qui ont le droit de construire des modèles de fondation.