英国のデータ保護監督機関は、警察が使用する事後顔認識（RFR）技術に人種的バイアスが存在することを内務省の報告書が明らかにしたことを受け、政府に対して緊急の説明を求めた。
情報コミッショナー事務局（ICO）のエミリー・キーニー副情報コミッショナーは金曜日の声明で、ICOが内務省に対し「この問題について状況を評価し、今後の対応を検討できるよう、緊急の説明を求めた」と述べた。
木曜日に公開された国立物理学研究所（NPL）の報告書では、Cognitec社のアルゴリズム「FaceVACS-DBScan ID v5.5」がテストされた。
RFRは、防犯カメラ、携帯電話の映像、ドライブレコーダー／ビデオドアベルの映像、ソーシャルメディアから取得された画像を、警察国家データベース上の画像と照合するために使用されている。
逃走中の潜在的な犯罪者を捕捉するために、毎月推定2万5000件の検索が実行されている。
顔認識についてさらに読む：活動家ら、英国における警察の顔認識制度拡大を非難
しかし、この報告書は「限られた状況下ではあるが、このアルゴリズムは、特定の人口集団を検索結果に誤って含めてしまう可能性が高い」と指摘した。
具体的には、白人被写体の誤認率（0.04％）は、アジア系（4％）および黒人被写体（5.5％）の誤認率よりもはるかに低い。
「黒人男性被写体のFPIR（0.4％）は、黒人女性被写体（9.9％）よりも低い」とも付け加えた。
キーニー氏は、ICOは内務省がこれらのバイアスを是正するための措置を講じていることを認識していると述べた。
「しかし、政府および公共部門によるデータ利用に関する説明責任を果たすという、当局や警察機関との継続的な関与にもかかわらず、これまでこの問題について知らされていなかったことは残念です」と彼女は付け加えた。
「テクノロジーが果たしうる貴重な役割を理解してはいますが、その利用に対する国民の信頼が何よりも重要であり、バイアスや差別の印象は不信感を一層悪化させかねません。ICOは、公共部門がこれを正しく行えるよう支援・補助するために存在しています。」
バイアスの是正
内務省は報告書の中で、テスト結果を受けて新たなアルゴリズムを購入したと述べ、そのアルゴリズムは「パフォーマンスに有意な人口統計上の差異が生じない設定で使用できる」と付け加えた。
さらに、「新しいアルゴリズムは来年初めに運用テストが行われる予定であり、評価の対象となる」と続けた。
警察・犯罪コミッショナー協会（APCC）もまた、政府がRFRシステムのバイアスが警察活動に影響を与えないようにするための「緩和策」を導入したことを認めた。しかし、ICOと同様に、透明性について懸念を表明した。
「個々の事案において悪影響があったという証拠はありませんが、それは設計によるというより、むしろ偶然によるものです。システムの不具合はかなり前から知られていたにもかかわらず、影響を受けたコミュニティや、主要なセクターのステークホルダーと共有されてきませんでした」と声明で述べた。
「これらの技術は、ますます侵襲的かつ高度になっています。特に歴史的に警察を信用してこなかったグループを含め、国民の信頼と支持を得るためには、完全な透明性が不可欠です。」
APCCは、このような技術は導入前に厳格かつ独立した評価を受ける必要があり、運用中も継続的な監視が行われるべきであり、問題が発生した際には国民に対する明確な説明責任を伴うべきだと述べた。
「私たちは、警察および政府に対し、これまでの誤りを認め、地方および国家レベルで警察統治に責任を負う者たちと協力して、精査と透明性が警察改革アジェンダおよび今後のホワイトペーパーの中心に据えられるよう求めます。警察自身に自己評価を任せるわけにはいきません」と付け加えた。
翻訳元: https://www.infosecurity-magazine.com/news/ico-demands-clarity-facial/
