Les outils de détection d’IA sont, en réalité, fondamentalement défectueux et causent des dommages bien réels. Ces systèmes signalent des écrits humains légitimes comme étant générés par une IA, avec des taux de faux positifs absurdement élevés : des étudiants accusés à tort de triche, des rédacteurs qui perdent des contrats, des chercheurs dont des articles sont rejetés. La réalité technique : ces détecteurs reposent sur un appariement de motifs probabilistes qui ne peut pas distinguer de manière fiable un texte cohérent produit par un humain d’un texte généré par un LLM, surtout à mesure que les modèles s’améliorent. Pire encore, ils sont facilement contournables (ajouter des fautes, reformuler maladroitement) tout en pénalisant les anglophones non natifs et les auteurs neurodivergents dont les schémas naturels déclenchent des alertes erronées. Toute l’industrie de la détection vend du charlatanisme pendant que les universités et les employeurs prennent des décisions aux conséquences bouleversantes, fondées sur des scores peu fiables. Nous criminalisons des styles d’écriture au lieu de nous adapter à ce changement d’outillage.
