今週、AIディープフェイクサイト12件がオフラインになりました。ニューヨーク州の地方検事が、非同意動画の頒布に関する法律違反を理由にこれらのドメイン名を差し押さえたためです。
マンハッタン地区検事のアルヴィン・ブラッグ氏は月曜日に記者会見を開き、1,200人以上の人物のAI生成動画をホストしていたこれらのサイトの摘発を発表しました。これらのサイトでは、実在の人物の顔や身体を使って違法なポルノコンテンツを作成できるようになっていました。
ブラッグ氏は記者会見の中で、サイトに登場する人物の多くは著名人だが、パートナーが被害者のディープフェイク画像の公開をちらつかせて脅迫するドメスティックバイオレンス事案も把握していると述べました。
さらに、こうしたサイトに対して何らかの対処が可能だとは知らなかったという被害者からも話を聞いたと付け加え、より多くの被害者に声を上げるよう呼びかけました。逮捕や起訴を追及するかどうかについては明言を避け、捜査は継続中だと記者団に語るにとどめました。
ブラッグ氏によると、捜査対象となっている複数の人物は、実際の写真や動画を使って「性行為を行っている本人のように見える超リアルな画像・動画」を作成していたということです。
ブラッグ氏は次のように述べています。「こうした悪質なプライバシー侵害は、被害者のキャリアや私生活にまでつきまとい、精神面・感情面で甚大な打撃を与えます。はっきり申し上げますが、私のオフィスはいかなる形の性的搾取も容認しません。AI生成かどうかを問わず、非同意の性的画像・動画の公開や頒布によって企業が利益を得るようなことを、座視するつもりはありません」
これらのサイトは名称こそ公表されていないものの、自らをディープフェイクポルノプラットフォームとして明確に宣伝していました。
ブラッグ氏は、今後もこれらのサイトの動向を監視し、新たなドメインでプラットフォームを再開しようとする動きがあれば摘発を続けていく方針だと述べました。
各国政府やマイクロソフトのようなテック大手は、ここ2年ほどAIディープフェイクサイトの拡散に対処しようと取り組んできました。マイクロソフトは昨年、同社のAzure OpenAIサービスを悪用して「著名人などを対象とした非同意の性的画像や、その他の露骨な性的コンテンツ」を作成した開発者6人を相手取り、訴訟を起こしています。
また今年に入り、欧州委員会はソーシャルメディアプラットフォームのXに対して調査を開始したと発表しました。同社のAIツール「Grok」が未成年者の性的画像の作成に悪用されたことを受けた措置です。
翻訳元: https://therecord.media/manhattan-da-takes-down-12-ai-deepfake-porn-sites
