欧州委員会は本日、性的に露骨な画像を生成するために使用されたことを受け、Xが人工知能ツール「Grok」を展開する前にリスクを適切に評価していたかどうかを調べるため、デジタルサービス法（DSA）に基づく正式手続きを開始したと発表した。
委員会は、AI搭載ツールが「加工された性的に露骨な画像（児童性的虐待資料に該当し得る内容を含む）」の作成に使用されたことから、これらの潜在的リスクは「現実のものとなったように見える」と指摘した。
「女性や子どもを標的にした性的ディープフェイクは、暴力的で容認できない屈辱の形です」とEUの技術担当委員ヘンナ・ヴィルックネン氏は述べた。「この調査により、XがDSAの下での法的義務を果たしたのか、それとも女性や子どもを含む欧州の市民の権利を、自社サービスの“巻き添え被害”として扱ったのかを判断します」
英国当局も、X上のGrok AIチャットボットのアカウントがXユーザーの裸の画像や児童性的虐待資料（CSAM）を生成するために使用されたことを受け、同プラットフォームを精査している。
Grokが生成したコンテンツに関する懸念を提起する報道が広がったことを受け、情報コミッショナー事務局（ICO）は1月7日、データ保護法を遵守するために講じた措置の詳細を求めてXおよびxAIに連絡した。一方、Ofcom（英国の独立したオンライン安全監視機関）は1月12日、独自の調査を開始した。
数日後、カリフォルニア州司法長官ロブ・ボンタ氏がGrokを用いて生成された同意のない性的に露骨な素材について別の調査を開始したのを受け、XはGrokの画像生成および編集機能を有料購読者に限定すると発表した。
Xのこの動きはその後、英国首相報道官により、Grokの「違法画像の作成を可能にするAI機能をプレミアムサービスにした」ことから、「女性蔑視や性的暴力の被害者に対する侮辱」だと評された。
EU域内で月間アクティブユーザーが4,500万人を超えたと発表したことを受け、EU法の下で超大規模オンラインプラットフォームに指定されたXは、違法コンテンツの拡散や基本的権利への脅威を含め、EUのデジタルサービス法（DSA）で定義されるあらゆる潜在的なシステミックリスクを、今後軽減しなければならない。
欧州委員会はまた、デジタルサービス法（DSA）に基づく透明性義務および透明性要件に違反したとして、12月にXに1億2,000万ユーロ（1億4,000万ドル）の制裁金を科した。
