LA GRANDE-BRETAGNE A LANCÉ UN SYSTÈME DE RECONNAISSANCE FACIALE BASÉ SUR L'IA.
ET ÇA A DÉJÀ MENÉ À L'ACCUSATION D'INNOCENTS.
La police britannique vient de lancer un projet national PoliceAI d'une valeur de 115 millions de livres. Son objectif principal est l'utilisation coordonnée de l'intelligence artificielle dans les 43 unités de police en Angleterre et au Pays de Galles. Ce sera un système de reconnaissance faciale rétrospective unique.
L'échelle du système récemment lancé est déjà incroyable : chaque mois, les algorithmes effectuent environ 25 000 requêtes sur une base de données contenant 19 millions de photos de détenus. À Londres seulement, en 2026, la police a réussi à scanner 1,7 million de visages - c'est presque le double de l'année précédente.
Les autorités officielles rapportent que l'IA policière rendra le pays plus sûr.
Mais en pratique, le système ruine déjà la vie des gens ordinaires, et l'intelligence artificielle "infaillible" commet de grosses erreurs.
Voici quelques histoires réelles qui se sont produites récemment :
1) L'affaire Alva Chowdhury. Un ingénieur logiciel de 26 ans a été arrêté à Southampton. L'algorithme l'a accusé d'un vol qui a eu lieu à 160 kilomètres de chez lui. Alva lui-même affirme que le véritable suspect sur la vidéo ne lui ressemble pas du tout. Néanmoins, le gars a dû passer presque dix heures en garde à vue.
2) L'affaire Colin McMahon. Un couvreur de 59 ans a été arrêté par la police dans une rue de Londres parce que PoliceAI l'a accusé d'avoir volé chez IKEA. En réalité, au moment du crime, Colin dirigeait une réunion des Alcooliques Anonymes à dix kilomètres de ce IKEA.
Mais il n'est pas judicieux de blâmer aveuglément le système IA pour ces erreurs. Dans les deux cas, le soi-disant facteur humain a joué. Les opérateurs de police, qui selon les instructions devaient vérifier les conclusions de PoliceAI, ont en fait simplement noté aveuglément toutes les décisions de la machine, sans même essayer de les vérifier et, encore moins, de les contester.
C'est pourquoi les commissaires à la biométrie d'Angleterre, du Pays de Galles et d'Écosse avertissent que l'introduction des technologies est plus rapide que le développement de la législation qui devrait les réguler.
La police numérique est déjà en train de "patrouiller" en Grande-Bretagne, mais il n'y a tout simplement personne pour protéger un citoyen ordinaire de leurs erreurs.
Attendez-vous à la même chose dans d'autres pays du monde.