児童性的虐待コンテンツ(CSAM)の被害者らが提起したクラスアクション訴訟は、xAIがGrokの合成ディープフェイク「ヌード化」機能を、実際の児童虐待画像・動画を使って学習させたと非難しています。
水曜日に米カリフォルニア州北部地区連邦地方裁判所に提起されたこの訴訟は、Jane Doe 1をはじめとする匿名の個人らを原告とし、Doeを「連邦捜査局(FBI)の児童搾取通知プログラムが追跡している、身元が特定された児童ポルノの被害者」と説明しています。
Doeは就学前の幼児だった頃に加害者による虐待を受け始め、それはオンラインで拡散するCSAMコンテンツを制作する明確な目的のもと、何年にもわたって続きました。この被害者を写した映像は少なくとも2000年代初頭からオンラインで出回っており、訴状によれば、全米行方不明・搾取児童センター(NCMEC)への法執行機関からの提出物には「数十万件のファイル」が含まれているとされています。
FBIのプログラムの一環として、彼女は自身の虐待に関連する画像がオンラインに現れるたびに今なお通知を受け取っています。訴状は、彼女のコンテンツには「よく知られたハッシュ値」があり、それがGrokで生成されXで拡散されたディープフェイクの中に出現していると主張しています。
「原告を描写したCSAMは、調査報道、削除要請の取り組み、そして州法・連邦法違反に関する刑事捜査、逮捕、有罪判決の過程でxAI上に発見されてきました」と訴状は述べています。さらに「xAIはGrokを用いて、原告および彼女が被害者となっている児童ポルノシリーズを描写した画像を生成しました」とも主張しています。
この訴訟は、主張の根拠として「マーシャ法」を引用しています。2018年に成立したこの法律は、児童ポルノおよびオンライン搾取の被害者に対する民事上の救済手段を保護するものです。
Center for Countering Digital Hateの分析によれば、2025年12月から2026年1月にかけての11日間で、Grokは300万点を超える性的な画像を生成し、そのうち少なくとも23,000点が児童を描写しているとみられます。
同センターが追跡した期間の後となる1月14日、マスク氏はX上で「Grokによる未成年の裸の画像については一切認識していない。文字通りゼロだ」と投稿しました。マスク氏はまた、Grokを使って生成された画像の責任は主に自らの技術ではなくユーザーにあると示唆する一方で、違法なものを要求された場合、このモデルは「生成を拒否する」とも主張しています。
訴状は、他の競合他社が成人・児童の「ヌード化」画像をAIモデルが生成しないようガードレールを設けたのに対し、xAIは「その逆」を行ったと主張しています。すなわち、Grokとそのディープフェイク生成能力をXに直接組み込むことで、インターネット上に事実上瞬時のCSAM生成・拡散システムを作り出したというものです。
xAIはGrokがディープフェイクの性的画像を生成しないようガードレールを組み込んだと説明していますが、訴状はそれらが「非常に脆弱」であり、業界の標準的なベストプラクティスから逸脱しており、容易に回避できると指摘しています。
このシステムは、チャットボットがユーザーのリクエストの言い回しから「明確な意図」を検知した場合にプロンプトを拒否する、と訴状は述べています。「間接的な、あるいは婉曲的な表現のプロンプトは、テキストベースのフィルターを容易にすり抜けてしまいます。そのため、モデルが性的または虐待的なコンテンツを生成する根本的な能力を保持し続ける限り、一定量のCSAMがこのシステムによって事実上不可避的に生成されることになります」としています。
訴状はさらに、GrokおよびXの利用規約が、サイトに投稿されたあらゆるものを学習素材として扱っている点を指摘しています。つまり、この1年間にサイトへ投稿されたCSAMコンテンツは、いずれもモデルに取り込まれた可能性が高いということです。
原告となった被害者らは、将来における性的なディープフェイクやCSAMによるさらなる被害をGrokが生み出さないようにするための差止命令とともに、金銭的損害賠償を求めています。訴状には、xAIに対して同様の主張を持つクラスの構成員が「数千人」に上るとされています。
本訴訟についてコメントを求めxAIに連絡しましたが、返答はありませんでした。
Grokのヌード化機能、そしてこの問題の余波に対するxAIのオーナーであるイーロン・マスク氏の投げやりな公的姿勢は、国際的な非難、刑事捜査、そして同社に対する一連の民事訴訟を招く事態となっています。
今年これより前に提起された別のX社に対する訴訟は、ある男性がGrokを使って自身の継娘を描写した何千点ものディープフェイクCSAMコンテンツを生成したと主張しています。この訴訟はまた、xAIが法執行当局に対し、加害者である継父の身元特定に役立ったはずの情報を提供しなかったとも主張しています。当局がサイト上のコンテンツを追跡・押収した数日後、この継父は自殺しました。
7月、マスク氏はミネソタ州司法長官キース・エリソン氏を相手取り、ヌード化技術を禁止し、AIツールを使って性的に露骨な形で画像を生成・改変した事例1件につき50万ドルの罰金を科す新たな州法をめぐって訴訟を起こしました。マスク氏の訴訟は、この禁止規定が憲法修正第1条に違反すると主張しています。
翻訳元: https://cyberscoop.com/xai-grok-csam-class-action-lawsuit/
