DAS VEREINIGTE KÖNIGREICH HAT EIN KI-BASED GESICHTSERKENNUNGSSYSTEM EINGEFÜHRT.
UND ES HAT BEREITS ZUR ANKLAGE UNSCHULDIGER GEFÜHRT.
Die britische Polizei hat gerade ein nationales Projekt namens PoliceAI im Wert von 115 Millionen Pfund gestartet. Das Hauptziel ist der koordinierte Einsatz von künstlicher Intelligenz in allen 43 Polizeieinheiten in England und Wales. Dies wird ein einheitliches retrospektives Gesichterkennungssystem sein.
Der Umfang des neu eingeführten Systems ist bereits beeindruckend: Jeden Monat führen die Algorithmen etwa 25.000 Suchanfragen in einer Datenbank mit 19 Millionen Fotos von Festgenommenen durch. Allein in London gelang es der Polizei im Jahr 2026, 1,7 Millionen Gesichter zu scannen - das ist fast doppelt so viel wie im Vorjahr.
Offizielle Stellen berichten, dass PolizeikI das Land sicherer machen wird.
Aber in der Praxis ruiniert das System bereits die Leben gewöhnlicher Menschen, und die "unfehlbare" künstliche Intelligenz macht grobe Fehler.
Hier sind ein paar echte Geschichten, die sich erst vor Kurzem ereignet haben:
1) Der Fall von Alva Chowdhury. Ein 26-jähriger Softwareingenieur wurde in Southampton festgenommen. Der Algorithmus beschuldigte ihn eines Raubüberfalls, der 160 Kilometer von seinem Zuhause entfernt passiert ist. Alva selbst behauptet, dass der echte Verdächtige im Video ihm überhaupt nicht ähnelt. Trotzdem musste der Mann fast zehn Stunden in Gewahrsam verbringen.
2) Der Fall von Colin McMahon. Ein 59-jähriger Dachdecker wurde von der Polizei auf einer Londoner Straße angehalten, weil PoliceAI ihm vorwarf, von IKEA zu stehlen. Tatsächlich leitete Colin zum Zeitpunkt der Tat ein Treffen der Anonymen Alkoholiker, zehn Kilometer von diesem IKEA entfernt.
Doch ist es nicht sinnvoll, in blindem Vertrauen das KI-System für diese Fehler verantwortlich zu machen. In beiden Fällen wirkte der sogenannte menschliche Faktor. Die Polizeibediensteten, die laut Anweisungen verpflichtet waren, die Schlussfolgerungen von PoliceAI nochmals zu überprüfen, schrieben in Wahrheit einfach blind alle Entscheidungen der Maschine auf, ohne sie überhaupt zu prüfen – und noch weniger, sie anzufechten.
Deshalb warnen die Biometrie-Kommissare von England, Wales und Schottland, dass die Einführung von Technologien schneller voranschreitet als die Entwicklung von Gesetzen, die sie regeln sollen.
Die digitale Polizei ist in Großbritannien bereits auf "Streife", aber es gibt einfach niemanden, der einen normalen Bürger vor ihren Fehlern schützt.
Erwarten Sie dasselbe in anderen Ländern der Welt.