英国、子どもの画像の「ヌーディファイ（衣服除去）」をめぐりXを正式調査

英国の通信規制当局Ofcomは月曜日、ソーシャルメディア・プラットフォームXが児童性的虐待素材（CSAM）を掲載している可能性があるとして、正式な調査を開始したと発表した。

この動きは今月初め、同プラットフォームの人工知能ツールGrokが、ユーザーの要請に応じて同意のない人物の性的画像を作成するために使用されたことを受け、苦情が噴出したことを受けたものだ。

こうした画像の作成は、同社がGrokにそれらを生成させる依頼をプレミアム加入者に限定した後、ここ数日で減速したものの、止まってはいない。

Ofcomは、X上のGrok AIチャットボットのアカウントが「人々の衣服を脱がせた画像を作成し共有するために使用されているという、極めて憂慮すべき報告」を受けたことから先週、Xに緊急連絡を取ったとし、これは親密画像の虐待および児童性的虐待素材の作成に当たる可能性があると警告した。いずれも英国では刑事犯罪である。

月曜日、規制当局は、Xが英国のオンライン安全法に違反しているかどうかを確立しようとしていると発表した。同当局は次のように強調した。「どの業界であれ、英国で人々にサービスを提供したい企業は英国の法律を遵守しなければならない。英国のオンライン安全法は英国にいる人々を保護することに関するものである。他国の人々が見られるものをプラットフォームに制限させることを求めるものではない。」

法令遵守に失敗したオンライン・プラットフォームは多額の罰金に直面し、極端な場合、英国法に従うことを拒否すれば、国内のインターネットサービスプロバイダーによって遮断される可能性がある。

「プラットフォームは英国で違法なコンテンツから英国の人々を守らなければならず、企業が義務を果たしていない疑いがある場合、特に子どもに危害が及ぶリスクがある場合には、調査をためらわない」とOfcomは述べた。

「適正手続を確実に踏みつつ、この調査を最優先事項として進める。英国の独立したオンライン安全執行機関として、調査が法的に堅牢で、公正に判断されることを確保するのが重要だ。」

英国の技術担当相リズ・ケンドールは、Ofcomが「本日、正式調査を開始した緊急性」を歓迎すると述べた。「Ofcomがこの調査を迅速に完了することが不可欠だ。国民は、そして何より被害者は、いかなる遅れも受け入れないだろう。」

苦情の増加

この発表に先立ち、パリ検察庁はRecorded Future Newsに対し、Grokが生成した「性的に露骨な『ディープフェイク』、とりわけ未成年を含むもの」の拡散について、Xを捜査していると述べていた。

その後、欧州委員会も、イーロン・マスク所有の同プラットフォームに対して措置を取ることを「極めて真剣に」検討していると表明し、報道官のトーマス・レニエは記者団にこう語った。「X向けGrokが、露骨な性的コンテンツを表示する『スパイシーモード』を提供しており、その出力の一部は子どもっぽい画像で生成されているという事実は十分に認識している。これはスパイシーではない。違法だ。言語道断だ。吐き気がする。私たちはそう見ている。これは欧州に存在すべきものではない。」

インドネシアとマレーシアはこの週末、これらの画像を理由にGrokを遮断すると発表した。 

これに先立ち、欧州委員会は先月、透明性や詐欺・偽情報からの利用者保護に関するEU法の一群であるデジタルサービス法（DSA）に違反したとして、Xに1億2000万ユーロ（1億3900万ドル）の制裁金を科した。Xはこの制裁金を「前例のない政治的検閲行為であり、言論の自由への攻撃だ」と表現した。

この制裁金は、プラットフォーム規制をめぐる欧州当局と米国の間の継続的な政治的対立の一因となった。過去の問題では、JD・バンス副大統領を含むマスクの同盟者らがEUの規制を批判し、EU指導部が「くだらないことで米国企業を攻撃している」と非難してきた。

米連邦取引委員会（FTC）は最近、国内のテクノロジー企業に対し、EUおよび英国の規制に従うことは「外国勢力の法律に従うために米国人を検閲する」ことに当たり得ると警告した。FTCは、これは商取引における不公正または欺瞞的行為を禁じる法律に違反すると見なされ得ると主張している。

Ofcomは月曜日、「世界の他の地域の利用者がそのコンテンツを引き続き見られることを妨げずに、英国の人々を保護する方法はある」と述べた。