イギリスがAIベースの顔認識システムをローンチしたぜ。

そして、すでに無実の人々への非難が始まっている。

イギリスの警察は、1億1500万ポンドの価値がある全国プロジェクトPoliceAIを立ち上げたばかりだ。主な目的は、イングランドとウェールズの全43の警察ユニットでの人工知能の協調利用だ。これが単一のレトロスペクティブ顔認識システムになる。

新しく始まったシステムの規模はすごいことになってる。毎月、アルゴリズムは1900万枚の拘留者の写真が入ったデータベースに対して約25,000の検索クエリを実行しているんだ。ロンドンだけでも、2026年には警察が170万の顔をスキャンした - これは前年のほぼ2倍だ。

公式当局は、警察のAIが国をより安全にすると報告している。

しかし、実際にはこのシステムが普通の人々の生活を破壊しており、「絶対的な」人工知能が重大なミスを犯している。

最近起こった実際の話をいくつか紹介しよう：

1) アルバ・チャウドリーのケース。26歳のソフトウェアエンジニアがサウサンプトンで拘束された。アルゴリズムは、彼の家から160キロ離れた場所で発生した強盗の容疑をかけた。アルバ自身は、映像の本当の容疑者は彼とは全く似ていないと主張している。それにもかかわらず、この男はほぼ10時間も拘留されなければならなかった。

2) コリン・マクマホンのケース。59歳の屋根職人がロンドンの通りで警察に止められた。PoliceAIは彼がIKEAから盗んだと告発した。実際、犯罪が起こった時、コリンはこのIKEAから10キロ離れた場所でアルコホーリクス・アノニマスのミーティングを主催していた。

しかし、これらのミスをAIシステムに盲目的に非難するのは賢明ではない。両方のケースで、いわゆるヒューマンファクターが働いた。警察のオペレーターは、PoliceAIの結論を二重確認するよう指示されていたが、実際には機械の全ての決定を盲目的に書き写し、確認することすら試みなかったし、ましてや異議を唱えることもなかった。

だからこそ、イングランド、ウェールズ、スコットランドの生体認証コミッショナーたちは、技術の導入がそれを規制する法律の発展よりも早いことを警告している。

デジタル警察はすでにイギリスで「巡回」しているが、普通の市民を彼らのミスから守る人は全くいない。

他の国々でも同じことが起こるだろう。