存在しないものを作れ。その間、データは一切収集するな。失敗すればCEOが刑事責任を問われる可能性がある——これが6月8日、英国政府がAppleとGoogleに突きつけた最後通牒に近い内容です。両社には、英国で販売されるすべてのスマートフォンとタブレットに、ヌード画像をブロックする端末レベルの保護機能を導入するための3カ月の猶予が与えられました。応じない場合、政府は立法措置に踏み切る構えで、罰金に加え、最終手段としてテック企業幹部への刑事責任追及も視野に入れています。
キア・スターマー首相はロンドン・テック・ウィークでこの方針を発表し、両社に対して次のように語りました。
「もし応じないのであれば、私たちは行動し、法律を変えます。」
方針は明快に見えます。しかし実行は容易ではありません。
子どものスマートフォンに存在する保護機能と存在しない機能
両社はすでに、子どもが性的画像に触れるのを防ぐ何らかの対策を講じています。Appleのコミュニケーション安全機能は、子ども用アカウントを持つユーザーがメッセージ、AirDrop、FaceTimeなどのアプリでヌードを含む画像や動画を送受信しようとした際に警告を表示します。同社は今週開催のWorldwide Developer Conference（WWDC）で、この機能に新たな機能を追加したことを発表しました。
Googleのセンシティブコンテンツ警告は、監視対象ユーザーおよびサインイン済みの未監視ティーンエージャーに対し、Googleメッセージ内のデリケートな画像をぼかす機能です。ただし対象は画像のみで、動画には対応していません。
Appleは近く、英国および一部の国で、特定の機能を利用する際に18歳以上であることの確認を義務付ける予定です。確認方法は、政府発行のID、支払い情報、またはその他の本人確認手段を用いた年齢確認で、地域によって異なります。
しかし英国政府は、こうした対策では不十分だと訴えています。既存のヌード検出機能は、カメラやその他のアプリ、サードパーティのメッセージングサービス、検索機能には適用されていないと指摘しています。つまり、保護機能はスマートフォン全体のほとんどをカバーできていないということです。カメラ、WhatsApp、Signal、Safari、フォトライブラリはすべて、保護者が既に存在すると思い込んでいる保護の範囲外に置かれています。
プライバシーを守りながらのスキャンは可能か
今回の発表には、他の内容と整合させるのが難しい一文が含まれています。
「企業はプライバシーを脅かしたりデータを収集したりすることなく、これらの対策を導入しなければなりません。」
成人はオプトアウトできますが、年齢確認を完了した場合に限られます。
これは非常に高いハードルです。プライバシー擁護団体は、企業が保存情報を最小限に抑えようとしても、年齢確認は必然的に新たなデータ収集リスクをもたらすと主張しています。AppleとGoogleがどのようなシステムを構築しても、何らかの記録保持は避けられないと見られています。経営幹部が法令違反で個人責任を問われる可能性がある以上、システムがいつ何をしたかを証明できる体制が必要になるからです。
政府がこれらの実現可能性の根拠として挙げているのは、SafeToNetのHarmBlockという単一の製品のみです。内務省はこれを、デフォルトで安全な端末保護の「実証例」と呼んでいます。HarmBlockのソースコード（非公開）は、画像とライブストリームをすべて端末上で分析します。
デジタルプライバシー団体はこの発表に強く反発しました。Big Brother Watchは、子どもが大人名義のデバイスに簡単にアクセスできると指摘するとともに、成人への強制的なID確認は「匿名性とインターネット・プライバシーの死」を意味すると警告しました。
プライベートメッセージアプリのSignalは、スキャンが端末上でのみ動作するという約束は「気休めにもならない」と述べました。システムがどこで動作しようとも、その適用範囲は最終的に技術ではなく政府によって決定されるからです。
「その範囲は、今日はヌード画像を、明日は政治的発言を検出するという、政府の気まぐれや規制によって定義されることになります。」
Appleはかつて同様の状況に直面したことがあります。2021年、同社は既知の児童性的虐待画像を端末上で検出するため、画像ハッシュを既知素材のデータベースと照合する別の計画を発表しましたが、プライバシー擁護団体からの継続的な反発を受け、静かに計画を棚上げにしました。
今日から家族にできること
9月までに、自主的な対応か急ごしらえの立法かのいずれかで決着がつくでしょう。しかしいずれにせよ、今すぐ子どものスマートフォンの状況が変わるわけではありません。現時点では、ティーンエージャーが最もよく使うメッセージングチャンネルは保護されていません。グルーミングや性的恐喝（セクストーション）の多くは、OSの組み込み安全機能の範囲外で動作するアプリから始まっています。保護者と子どもが取れる追加の対策を以下に紹介します。
- 子ども用アカウントのiPhoneではコミュニケーション安全機能をオンにし、監視対象のAndroidメッセージではセンシティブコンテンツ警告を有効にしてください。問題の一部しか防げないかもしれませんが、何もしないよりはましです。
- 強制的な画像共有についてお子さんと話し合ってください。Internet Watch Foundationは、2024年に評価した報告の91%が子ども自身によって投稿されたセルフ生成コンテンツを含んでいたと報告しています。子どもはオンラインの性的虐待者から性的なコンテンツを送るよう強制されることがよくあります。Internet Watch Foundationは、親密な画像をオンラインで送るよう強制されている方向けのリソース一覧を提供しています。
- どんな方針より長続きする基本対策を実践してください。すべてのアカウントに固有のパスワードを設定し、多要素認証を追加しましょう。
- 知っている子どもの画像をオンラインで共有する際は十分注意してください。近年、犯罪者は露骨でない画像から性的コンテンツをAIを使って生成し、それを恐喝に悪用するケースが増えています。
