Flockのナンバープレート追跡カメラについて

Flockのカメラから得られたデータによって誤って身元を特定され、追跡された挙句に逮捕されたというあるライターの体験談が話題になっています。

LAのディーラーから盗まれたとされるニュージャージー州のナンバープレートは34 03 DTMであり、34 10 DTMではありませんでした。しかし警察の報告書が作成され、そのプレート番号がFlockのシステムに入力された際、記録されたのは単に34 DTMでした。大きな5文字だけが記録され、真ん中の小さな数字は含まれていませんでした。そしてFlockのAI技術は、レンジローバーを街中で検知し始めた際、この非標準的な小さな数字を認識していませんでした。大きな文字で表示された34 DTMだけを認識し、地元警察への通報を開始してしまったのです。

ようやく合流を許された妻を含め、私たち全員が呆然と立ち尽くす中、私は最後のピースをつなぎ合わせました。JLR(ジャガー・ランドローバー)の広報車両フリートには、同じ英数字構成―34##DTM―のニュージャージー州製造業者用プレートを持つ車両が数多くあります。ガンシン警官が指摘したように、これは今や全国規模の問題になっているということでした。Flockと提携している警察署がある場所ならどこでも、同じプレート構成を持つ他のJLR所有車両は盗難車としてフラグが立てられてしまうのです。実際、ガンシン警官によれば、その週だけでミネソタ州内で他に4台の34##DTM車両が追跡対象になっていたといいます。私はただ最初に捕まった1台に過ぎませんでした。これを止める唯一の方法は、LAPD(ロサンゼルス市警)が最初の報告書を訂正し、Flockのシステムを更新することであり、この電話の後、ジャガー・ランドローバーはその実現に向けて急いで動いていました。

Flockはこの悪評に対して反応を示しました。まず、自社のシステムは正しく機能していたと主張し、警察側に責任があるとしました。

当然の疑問として、Flockのカメラは34 DTMを検索していたのに、私が運転していた車のプレートは34 10 DTMでした。それがなぜ一致としてフラグが立てられたのでしょうか。

「機械学習(ML)の仕組みとしては、読み取るべきものを正しく読み取っていました。あなたが言った34 DTMという文字が入力として与えられ、34 DTMという文字を結果として返しました」とトーマス氏は説明しました。「『これを見つけられるか』と問われ、実際に見つけたのです。ただ、『他にも情報があるなら、それは対象外にする』とは指示されていませんでした。単に『存在するか』と問われ、その答えが『はい』だったということです」

同氏の説明によれば、たとえ10の数字が通常サイズであったとしても、Flockは依然として一致としてフラグを立てていたはずだといいます。なぜなら、法執行機関からの要望に基づいてそのように設定されているからです。時には、部分的なプレート情報しか手元にない場合もあります。

「法執行機関がこれらのツールを使いたい方法としては、ホットリストに入力した文字のいずれかが読み取られた場合、その通報を受け取りたいというものです」と同氏は述べました。「現在私たちが警察官に教えようとしているのは、まさにあなたが言った通りのことです。つまり、自分が探しているのは34 DTMであり、実際に見えているのは34 10 DTMだということを確認する、という点です」

次に、Flockの最高経営責任者(CEO)は、プライバシー擁護活動家をテロリストと呼んだことについて謝罪しました。

米国内の警察署が利用する巨大なカメラネットワークを運営する企業、Flock Safetyの最高経営責任者(CEO)は、Flockに対する批判者たちに立ち向かうことを恐れないタイプの人物として知られてきました。昨年には、Flockのカメラの位置を追跡するあるグループを「テロリスト」とまで呼んだこともあります。しかし、その姿勢に変化が見られます。あるいは、少なくとも広報戦略には変化があったようです。

一方で警察は、車両だけでなく人物を追跡する目的でもFlockのカメラネットワークを利用しています(代替ソース)。

404 Mediaが確認したデータによれば、全米各地の警察署が、車両ではなく特定の人物を捜索するためにFlockのカメラを少なくとも数百回にわたって利用しており、「黒と白の帽子をかぶった大柄な男性」「スケートボードに乗った人物」「オレンジ色のベストと建設用ヘルメットを着用した人物」といった検索条件が使われていました。中には、対象者の人種や政治的立場を示す特徴に言及する検索も見られました。

そして、あらゆる警察の監視技術がそうであるように、ここにも不適切な利用が存在します。