EU、性的画像をめぐりXとGrokを正式調査

欧州委員会は月曜日、ソーシャルメディアプラットフォームXと、そのチャットボットGrokについて、未成年者を含む性的に露骨な画像が生成され、サイト上で拡散していることをめぐり、正式な調査を開始すると発表した。

世界各国の当局は、欧州委員会が声明で「児童性的虐待資料に該当し得る内容を含む、操作された性的に露骨な画像」と呼んだものを作成するためにGrokが利用されていることに、強い嫌悪感を示している。

欧州委員会の調査と並行して、英国とフランスでも同様の調査が開始されており、さらにカリフォルニア州司法長官ロブ・ボンタも、「同意のない性的に露骨な素材」に関する「雪崩のような報告」を「衝撃的だ」と述べた。

1月16日のボンタの声明から数時間後、Xは発表し、これらの画像の作成に対処するためGrokに変更を加えるとした。プラットフォームのSafetyアカウントは、Xの所有者であるイーロン・マスクが自身のアカウントで苦情を軽視したにもかかわらず、Xは「児童の性的搾取、同意のないヌード、望まれない性的コンテンツのいかなる形態に対してもゼロトレランスを維持している」と述べた。

デジタルサービス法（DSA）に基づき月曜日に開始された欧州の調査は、XがEU域内でGrokがもたらすリスクを特定する義務を果たし、違法な性的コンテンツの作成と拡散を防ぐための十分な安全策を講じたかどうかを明らかにすることを目的とする。

「女性や子どもに対する性的ディープフェイクは、暴力的で容認できない屈辱の形です」と、技術担当のEU委員であるヘンナ・ヴィルクネンは述べた。「この調査により、XがDSAの下での法的義務を果たしたのか、それとも女性や子どもを含む欧州市民の権利を、自社サービスの巻き添え被害として扱ったのかを判断します。」

調査結果によっては、DSAの下で多額の金銭的制裁を含む複数の選択肢がある。先月、DSAは、透明性や詐欺・偽情報から利用者を保護することに関する法律に違反したとして、Xに1億2000万ユーロ（1億3900万ドル）の罰金を科すために用いられた。

Xはその罰金を「前例のない政治的検閲行為であり、言論の自由への攻撃だ」と表現した。マスクは当初、Grokに関する苦情への反応としてこの批判を繰り返したが、その後「Grokを使って違法コンテンツを作る者は、違法コンテンツをアップロードした場合と同じ結果を被る」と述べた。

Xの所有者とスタッフからの罰金への反応が混乱しているにもかかわらず、欧州委員会の当局者はRecorded Future Newsに対し、同プラットフォームのコンプライアンスチームは関与しており、EUの要請に対して応答していると語った。当局者によれば、欧州委員会は、決定後に設定された3か月の期間内に罰金が支払われると確信しているという。

2週間前、英国の通信規制当局Ofcomは発表し、Xが児童性的虐待資料を掲載している可能性について、同様に正式な調査を開始するとした。フランスではパリ検察庁が同様の調査を開始しており、またGrokはインドネシアとマレーシアの当局によってブロックされている。

欧州の規制は、米国政府から繰り返し批判を受けてきた。過去の問題では、JDヴァンス副大統領が、EUの指導部が「くだらないことで米国企業を攻撃している」と非難した。

米連邦取引委員会（FTC）は最近、EUおよび英国の規制に従うことは「外国勢力の法律に従うために米国人を検閲する」ことに当たり得ると、国内のテクノロジー企業に警告した。FTCは、これは商取引における不公正または欺瞞的行為を禁じる法律に違反すると見なされる可能性があると主張した。