日本の群馬大学の藤井勇作教授は、街頭カメラの映像を解析するAIを運用者が悪用するのを防ぐため、監査と罰則の仕組みを設計しました。このシステムでは、AIの出力に対して独立した記録機関を置き、予告なしの抜き打ち検査を実施します。
藤井氏が検証の舞台に据えたのは、同氏が「完全監視公共空間（FMPS）」と呼ぶ環境です。人や車両を途切れなく追跡できるほどカメラが高密度に設置された通りを指します。既存のネットワークカメラと暗号化ストレージがあれば構築できます。こうした通りの住民にとって、AIが出した結論がその後どこへ渡り、誰が検証するのかは未解決の問題です。
記録機関が読むのは映像ではなくラベル
藤井氏の答えが「AI出力の検証可能な記録（VRAIO：Verifiable Record of AI Output）」です。各自治体は、独立した第三者機関である「記録機関（Recorder）」が管理するアウトバウンドファイアウォールの内側で、自前のAIシステムを運用します。出力が外部に出る前に、運用者は対象のカメラ、時間帯、目的を申告します。記録機関はこの申告を法的なルールと照合し、判断結果を改ざん耐性のある台帳に書き込みます。記録機関は復号鍵を持たず、コンテンツにもアクセスできません。
ここには抜け穴があります。記録機関が確認できるのは、申告がルールに適合しているかどうかだけで、申告が真実かどうかは判断できません。藤井氏が挙げる例では、運用者が行方不明の子どもを探すために映像が必要だと申告しながら、実際にはまったく別の目的に使います。ラベルに問題がなければ、記録機関はそのまま通してしまいます。この嘘を見抜けるのは抜き打ち監査だけです。記録された申告と実際に提供された内容を突き合わせて発覚させます。台帳をたどれば、問題の要求とその運用者を特定でき、運用者は行政処分や刑事責任、違反の公表といった制裁を受ける可能性があります。
抑止力は、監査の頻度と罰則の重さで決まります。藤井氏はHelp Net Securityの取材に対し、「あらゆるケースに共通する最低限の監査頻度や制裁水準が一つあるとは考えていません。悪用の動機をなくせるだけの強さを、組み合わせとして備えるべきです」と答えました。
同氏はこの検証を、インセンティブの観点から説明しています。「簡単に言えば、発覚して制裁を受けた場合の期待コストが、悪用で得られる期待利益を上回る必要があります。適切な水準は、実際の運用経験に基づいて調整すべきです」
ファイアウォールを迂回された場合は記録が残らないため、発見には従来型のセキュリティ対策が頼りになります。記録機関が、監督対象である運用者に取り込まれる恐れもあります。さらにVRAIOは、ルール自体が公正かどうかを判断しません。自治体が差別的なルールを採用すれば、システムはそれを忠実に執行しかねません。
記録機関の役割を担う既存の組織については、藤井氏は具体名を挙げませんでした。「独立した記録機関は、司法機関、あるいは行政と司法の中間に位置する独立組織が運営するのではないかと想像しています」と同氏は話します。「重要なのは、FMPSを運用する組織から独立していることと、複数の関係者が監督することです」
「受容」の裏に回避行動が隠れる恐れ
記録が信頼できたとしても、もう一つの問いが残ります。人々は追跡されることを受け入れているのかという点です。藤井氏が「受容」と数えるのは、三つの条件がそろった場合に限ります。受け入れると答えること、その理由が「被害を受けていない」か「恩恵を受けている」ことであること、そして経路の変更、情報収集、表現、集会への参加といった行動に変化が見られないことです。カメラを避ける手段がないからという理由で「はい」と答える人は、受容ではなく諦めの状態にあります。
同氏の過去の実験は、この条件のうち最も緩やかな形に近いものでした。街灯の柱に11台のカメラを設置し、地域の全2,218世帯に通知を送りました。住民からは好意的な意見が寄せられましたが、行動が変わったかどうかは測定していません。好意的な意見は、まさに同氏自身の基準では不十分とされるものです。
行動の測定方法について、藤井氏は「市民への匿名アンケートを使うつもりです」と述べました。回避行動はあまり起きないとみています。「情報の利用が適切に管理されていれば、FMPSが大きな回避行動を招くとは考えていませんが、検証は必要です」。逆方向の効果も測定対象にしたいと言います。「人々がより安全だと感じ、公共空間をより自由に使うようになるかどうかも測るべきです。子どもをはじめとする弱い立場の人々にとっては、特に重要かもしれません」
同氏の計画は三段階で構成されます。第一段階は、行方不明の子どもの捜索と、同意に基づく子どもの見守りです。第二段階は、街灯に組み込んだAIで犯罪や事故を検知します。第三段階では、中央のAIが過去の犯罪から行動パターンを学習し、そのパターンに似た歩行者を検出します。同氏はこの最終段階を「ストレステスト」と位置づけ、まずシナリオ調査（ヴィネット調査）とシミュレーションで試すべきだとしています。事前に定める中止基準には、萎縮効果の大幅な増加、許容できない誤検知、苦情や参加取りやめの顕著な増加が含まれます。段階ごとに複数の要素が同時に変わるため、比較から分かるのは受容が成り立たなくなる境目であり、どの要素が原因かまでは特定できません。
藤井氏は、この提案についてまだ規制当局や自治体と協議していません。「この制度設計は、小規模な実証事業を通じて開発し、検証すべきだと考えています」と同氏は語りました。
翻訳元: https://www.helpnetsecurity.com/2026/10/08/ai-surveillance-cameras-privacy/
