ディープフェイクの被害に遭ったら:どう対処すべきか

How To

ネット上で自分の違法な合成画像や動画を見つけても、パニックになる必要はありません。削除を求める方法があります

ディープフェイクへの対策は、アメリカをはじめ各国で政治的立場を超えた共通の課題となっています。その背景には、こうした捏造動画や画像がますます身近で、かつ本物そっくりになっているという事情があります。生成AI(GenAI)ツールのおかげで、実在の人物になりすました偽メディアをきわめて短時間で、安価かつ簡単に作成できるようになっているのです。

冗談として送られるケースもある一方で、ディープフェイクにはより暗い側面もあります。サイバー犯罪者や詐欺師は、この技術を詐欺や恐喝にますます利用するようになっています。いじめの加害者は、被害者を嫌がらせ、辱め、虐げる手段としてこれを使います。標的になるのは子どもであることが多く、被害者の中には結果として自ら命を絶ってしまった人もいます。

こうした事情から、米国で最近成立したTAKE IT DOWN法が支持を集めているのも納得がいきます。世界各国でも、政策立案者や世論の圧力によって、テック企業各社はこの種のコンテンツへの取り締まりを強化せざるを得なくなっています。これは、ディープフェイクの被害に遭った人にとって朗報と言えるでしょう。

ディープフェイクは違法なのか

もどかしいことに、答えは「場合による」となります。米国では、TAKE IT DOWN法が非同意性的画像(NCII)の拡散を犯罪と定めており、オンラインプラットフォームには明確な通報手段の提供と、正当に通報された画像を48時間以内に削除することが義務付けられています。英国では、データ法およびオンライン安全法によってNCIIの作成が刑事犯罪とされており、当局は同様に48時間以内の削除義務も課しています。EUのAI法も、まもなくNCII作成に特化して設計されたシステムを禁止する規定を導入する予定です。ただし、個人の行為を規律するのは加盟各国の法律です。とはいえ、対象が子どもの画像である場合は、ほぼすべての法域において違法とされています。

NCIIに該当しない場合は、そのディープフェイクが何の目的で作られたかによって判断が変わります。本人の同意なく拡散された、あるいは詐欺、恐喝、名誉毀損、嫌がらせ、なりすましといった悪意ある目的で使われた場合には、違法となり得ます。

ディープフェイクの被害に遭ったらどうすべきか

自分に関するディープフェイクが作られ、それがNCIIに該当しない場合は、まず証拠を保存してください。具体的には、該当ページやアカウントのスクリーンショットを撮り、URLを保存し、アカウント名やユーザー名、発見した日時、付随するテキストなどを記録します。投稿者本人とやり取りするのは避けたほうがよいでしょう。かえってコンテンツをさらに拡散させてしまう恐れがあるためです。

該当コンテンツを通報する際は、以下のルールに従ってください。また、なりすましや詐欺、恐喝、さらなる脅迫など、より大きな犯罪の一部である可能性がある行為についても、同様に通報が必要です。身の危険を感じる場合は、当然ながら警察に通報してください。

自分のディープフェイク写真・動画を通報するには

現在では、ほとんどのオンライン・SNSプラットフォームにディープフェイクの通報手段が用意されていますが、それを一発で行える単一のボタンがあることは稀です。通常は、そのディープフェイクによって引き起こされた問題(いじめ、詐欺など)の種類をまず見つけ出し、それを説明する形になります。

• Google: Googleの「個人情報の削除」ツール(またはこちら)や、法的削除リクエストフォームを使うと、NCII以外のコンテンツを検索結果から削除できます。これにより、自分のディープフェイクを人が見つけにくくなります。ただし、元のコンテンツ自体が削除されるわけではない点に注意してください。
• Facebook: 該当の投稿・動画を開きます。「⋯」を選択し、「投稿/動画を報告」を選びます。なりすまし、嫌がらせなど、問題を最もよく表すカテゴリーを選択します。そのコンテンツがAI生成であることと、何が欺瞞的・有害なのかを説明します。
• Instagram: 右上の2本線をタップし、「報告」を選択して、最も適切な理由を選びます。
• TikTok: 動画上で「シェア」→「報告」→「誤情報」→「ディープフェイク、合成メディア、加工メディア」→「送信」の順に進みます。
• YouTube: 誰かがAIを使ってあなたに似せたコンテンツを作成・改変した場合、加工・合成コンテンツ向けのプライバシー侵害の申し立てプロセスを通じて削除を求めることができます。
• X: 該当の投稿を報告します。3つの点(・・・)アイコンをタップし、「投稿を報告」を選択して、案内される手順に従います。そのコンテンツがAI生成であることと、それが問題である理由を説明します。

自分のAIヌード画像を削除させるには

NCIIについては、その性質上、迅速な対応が求められます。まず頼るべきはStopNCII.orgです。これは国際的な慈善団体SWGfL傘下のRevenge Porn Helplineが運営するリソースです。該当の画像・動画を選択すると、StopNCII.orgがあなたの端末上でそのハッシュ値を作成します。通報が受理されると、ケース番号が発行されます。そして最も重要なのは、参加プラットフォーム各社が同じハッシュ値を照合し、それが自社ポリシーに違反する場合は自社システム上の一致する画像を削除してくれる点です。

参加パートナーには、Meta、TikTok、Reddit、Xなどが含まれます。また、人が見つけにくくなるよう、Google検索からディープフェイクを削除しておくこともおすすめします。

TakeItDown.NCMEC.orgは、18歳未満を対象とした画像・動画について、同様の仕組みを提供しています。

ウェブサイトが写真を削除してくれない場合、次にすべきことは

Googleが自分のディープフェイクをインデックスから除外していても、元のウェブサイト上にはまだコンテンツが残っている場合があります。まず最初にすべきは、そのサイトの運営者に連絡して削除を依頼することです。しかし相手が拒否した場合は、以下の手順を進めてください。

• 証拠を保存する — スクリーンショット、URL、最初に発見した日時、削除依頼に対するウェブサイト側の回答、アップロードしたアカウント/ユーザー名などを含めます
• ウェブサイトの法務/プライバシー/著作権担当の連絡先を見つけ、その画像・動画があなた自身を映したものであり、あなたの同意なく公開されていることを伝える文書を送ります。該当するウェブサイトのポリシーまたは現地の法律に基づいて削除を要請し、削除が完了した際には書面での確認を求めます
• 英国/EUでは、上記に加えてGDPR第17条の消去権(忘れられる権利)に基づく請求として主張することができます。それでも相手が拒否する、あるいは何の対応も取らない場合は、お住まいの地域のデータ保護規制当局にエスカレーションしてください
• 米国では、取るべき対応は各州の法律によって異なります

ウェブサイト、SNSプラットフォーム、検索エンジン、規制当局とやり取りする際に重要なのは、単に「このコンテンツはAI生成だ」と述べるだけでなく、それが具体的にどのような問題を引き起こしているのか(詐欺、嫌がらせ、なりすましなど)を明確に示すことです。粘り強く対応し、時間を節約するために検索エンジン、SNS/ウェブサイト、規制当局に同時に連絡することも検討してください。