GRAN BRETAÑA HA LANZADO UN SISTEMA DE RECONOCIMIENTO FACIAL BASADO EN IA.
Y YA HA LLEVADO A LA ACUSACIÓN DE INOCENTES.
La policía británica acaba de lanzar un proyecto nacional llamado PoliceAI por un valor de 115 millones de libras. Su objetivo principal es el uso coordinado de inteligencia artificial en las 43 unidades policiales de Inglaterra y Gales. Este será un sistema único de reconocimiento facial retrospectivo.
La escala del sistema recién lanzado es realmente impresionante: cada mes, los algoritmos realizan alrededor de 25,000 consultas en una base de datos que contiene 19 millones de fotografías de detenidos. En Londres, solo en 2026, la policía logró escanear 1.7 millones de rostros - esto es casi el doble que el año anterior.
Las autoridades oficiales informan que la IA policial hará que el país sea más seguro.
Pero en la práctica, el sistema ya está arruinando las vidas de personas comunes, y la inteligencia artificial "infalible" comete errores graves.
Aquí hay un par de historias reales que sucedieron bastante recientemente:
1) El caso de Alva Chowdhury. Un ingeniero de software de 26 años fue detenido en Southampton. El algoritmo lo acusó de un robo que ocurrió a 160 kilómetros de su casa. Alva mismo afirma que el verdadero sospechoso en el video no se parece en nada a él. Sin embargo, el chico tuvo que pasar casi diez horas en custodia.
2) El caso de Colin McMahon. Un techador de 59 años fue detenido por la policía en una calle de Londres porque PoliceAI lo acusó de robar en IKEA. De hecho, en el momento del crimen, Colin estaba dirigiendo una reunión de Alcohólicos Anónimos a diez kilómetros de esta IKEA.
Pero no vale la pena culpar ciegamente al sistema de IA por estos errores. En ambos casos, funcionó el llamado factor humano. Los operadores de policía, que según las instrucciones estaban obligados a verificar dos veces las conclusiones de PoliceAI, en realidad simplemente anotaron ciegamente todas las decisiones de la máquina, sin siquiera intentar verificarlas y, mucho menos, impugnarlas.
Por eso los comisionados de biometría de Inglaterra, Gales y Escocia advierten que la introducción de tecnologías es más rápida que el desarrollo de la legislación que debería regularlas.
La policía digital ya está "patrullando" en Gran Bretaña, pero simplemente no hay nadie que proteja a un ciudadano común de sus errores.
Esperen lo mismo en otros países del mundo.