OfcomがXを正式に調査へ――Grokの「脱衣化」ボタンはオンのまま

英国の通信規制当局であるOfcomは、オンライン安全法（Online Safety Act）違反の可能性をめぐりXを調査していることを確認した。

この調査は、AIチャットボット「Grok」が、主に女性を中心に、ユーザーの同意なく性的に加工された画像を生成しているとして厳しい監視が続いた期間を経て、規制当局に対応を求める政治家からの強い圧力を受けたものだ。

調査開始を発表するにあたり、Ofcomは月曜日に次のように述べた。「X上のGrok AIチャットボットのアカウントが、人々の服を脱がせた画像を作成・共有するために使用されているという、極めて憂慮すべき報告がある。これは親密画像の虐待（intimate image abuse）またはポルノに該当する可能性がある。また、児童の性的虐待資料（CSAM）に該当し得る、子どもの性的に加工された画像も報告されている。

「英国の独立したオンライン安全監視機関として、私たちは1月5日（月）に緊急でXに連絡し、英国のユーザーを保護する義務を果たすためにどのような措置を講じたのか説明するよう、1月9日（金）を厳格な期限として設定した。

「同社は期限までに回答し、私たちは入手可能な証拠について、緊急事項として迅速な評価を行った。」

OfcomはXの回答内容の詳細を明らかにしなかったが、規制当局は、英国のユーザーをどのように保護する計画なのかについて、xAIに緊急の説明を求めたとみられている。

正式な審査では、Xが、（子どもを含む）英国のユーザーがプラットフォーム上で違法コンテンツを目にするリスクを理解しているか、違法コンテンツへのアクセスを防ぐために適切な措置を講じているか、そして投稿後に違法コンテンツを削除する取り組みを行っているかを評価する。

オンライン安全法に基づく違反は、最大1,800万ポンド（2,400万ドル）または対象となる全世界売上高の10％のいずれか高い方の罰金で処罰され得る。

最も悪質な違反者には、事業妨害措置が科される可能性もあり、その場合、英国の裁判所が決済事業者や広告主に対し、特定の組織との取引関係を停止するよう命じることになる。

Ofcomの広報担当者は次のように述べた。「プラットフォームは、英国で違法なコンテンツから英国の人々を守らなければならない。とりわけ子どもに危害が及ぶリスクがある場合、企業が義務を果たしていない疑いがあれば、私たちはためらうことなく調査する。

「適正手続を確実に踏みつつ、この調査を最優先事項として進める。英国の独立したオンライン安全執行機関として、調査が法的に堅牢で、公正に判断されることを確保することが重要だ。」

テクノロジー担当相のリズ・ケンドールは本日の声明で、OfcomがXを調査する決定を歓迎すると述べ、被害者と一般市民のためにも「迅速に」結論を出す必要があるとした。

「ここ数日、Grokを使って作成・共有されたコンテンツは極めて衝撃的であり、政府の対応については本日中に議会へ報告する。」

政治的圧力

Grokと、人々をデジタルで脱衣させる能力をめぐる論争は数カ月前から浮上していたが、この問題に関する議論は先週、英国の当局がXを本格的に調査し始めたことで沸点に達した。

金曜日には、議員らが、Grokの脱衣化騒動をめぐってなぜ英国政府がXに制裁を科していないのかについて、政府に説明を求めた。

科学・イノベーション・技術委員会の委員長であるデイム・チー・オンウラーは、技術担当相リズ・ケンドールおよびOfcom CEOメラニー・ドーズ宛ての書簡で、Grokによる同意のない性的ディープフェイクは「極めて憂慮すべき」だと述べた。

デイム・オンウラーは、現時点ではこうした脱衣化ツールが野放しで稼働できてしまうように見える立法上の隙間を指摘した。 

2025年7月に成立したデータ利用・アクセス法（Data Use and Access Act）にはディープフェイク画像の作成を禁止する条項が含まれているが、二次立法の成立が必要なため、まだ施行されていない。

同様に、オンライン安全法は親密画像の虐待を犯罪としているが、共有されない限り、AI生成の親密画像そのものを明確に規制してはいない。

こうした立法上の隙間はあるものの、Grokが生成していた種類のコンテンツを禁じる規定は英国法に存在する。たとえば、性犯罪法（Sexual Offences Act）は、同意のない親密画像やCSAMの共有を違法としており、この法の該当部分はオンライン安全法にも組み込まれている。

デイム・オンウラーの質問の大半は、英国の通信規制当局であるOfcomに向けられた。彼女は、Grokの悪用に関する報告が数カ月前から出回り始めた時点で直ちに調査を開始するのではなく、なぜ今になってXのAI部門であるxAIに緊急連絡を取ったのかについて、ドーズに問いただした［PDF］。

Ofcomは本日の発表で、これらの質問に正面から答えなかった。

さらにOfcomは、XがGrokの画像機能を有料ユーザーのみに制限したこと、規制当局が既存法の下で制裁を執行する体制が整っていると考えているか、これまでXとどのような協議を行ってきたか、といった関連事項についても見解を示すことが期待されている。

委員長は単に、政府がいつ脱衣化ツールを禁止するのか、そして既存の立法でカバーされていないAI被害を追跡するために何をしているのかについて、ケンドールに質問した［PDF］。

「xAIのGrokがX上で同意のない性的ディープフェイクを作成するために使われたという報告は、極めて憂慮すべきだ」とデイム・オンウラーは述べた。「私の委員会は昨年、オンライン安全法には、生成AIを明確に規制していないことを含め、隙間が多いと警告した。最近のこれらディープフェイクに関する報告は、SNS企業が見かけ上ほとんど不処罰のまま活動する一方で、英国市民がオンライン上の害にさらされてきたことを、痛烈に示している。  

「私は政府とOfcomの双方に書簡を送り、こうしたAI生成の親密ディープフェイクが急増する事態にどう対処するのか、緊急の明確化を求めた。xAIとの協議内容についてOfcomの透明性が必要であり、効果的な執行措置を取る権限があるのかどうかについて明確な説明も必要だ。政府はまた、約束している脱衣化ツール禁止をいつ最終的に導入するのかを示し、オンライン上で女性と子どもを守るために必要な措置を講じなければならない。」

ケンドールは金曜日、デイム・オンウラーの書簡とは無関係に声明を出し、Grokの脱衣化機能を非難し、Ofcomに対して与えられた法的権限を全面的に行使するよう求めた。

また政府が「今後数週間で」同意のない親密画像の作成を犯罪化する新たな権限を実施すること、そして現在法制化の手続きが進んでいる犯罪・警察活動法案（Crime and Policing Bill）に脱衣化ツールの禁止が含まれていることも確認した。

ケンドールは、11月に公表された女性・少女に対する暴力（VAWG）防止に関するOfcomのガイダンスに言及し、すべてのプラットフォームがその文書［PDF］に示された原則を遵守することを期待すると述べた。

規制当局のVAWGガイダンスは、技術的にはオンライン安全法の対象範囲に入るすべてのプラットフォームに適用され、有害な活動を検知し、リスクにさらされる人々を支援するための特別な措置を講じることを義務づけている。処罰は、ユーザーの禁止を求められることから、全面的な規制上の執行措置に至るまで幅がある。

ケンドールの声明はまた、Grokの画像生成機能を有料ユーザーのみに制限するというXの決定――大衆によるGrokの悪用を抑えるための見え透いた試み――も退けた。

「女性や子どもの画像を性的に改変することは卑劣で、忌まわしい」と彼女は述べた。「お金を払う意思があるなら今なおそれを許しているというのは、Grokにとって侮辱であり、まったく容認できない。

「xAIには、オンライン安全法には、英国法の遵守を拒む場合に英国からのサービスアクセスを遮断する権限が含まれていることを思い出してもらいたい。Ofcomがその権限を行使すると判断したなら、私たちは全面的に支持する。」

Xの全面禁止はありそうにないとはいえ、前例がないわけではない。ここ数日、マレーシアとインドネシアの政府は、Grokの脱衣化問題を理由に、いずれも当該SNSプラットフォームへの一般アクセスを遮断した。

マレーシアの通信・マルチメディア委員会は、Xが問題に対処しなかったと述べ、インドネシアの通信・デジタル担当相メウティヤ・ハフィドは、Grokのディープフェイクを人権と尊厳に対する重大な侵害だと表現した。®