イーロン・マスクのXプラットフォームは、同社のAIチャットボット「Grok」がユーザーの同意なしに性的な画像を生成しているとの報告が相次ぐなか、英国の規制当局が追及を強めており、批判の的となっている。
オンライン安全法（OSA）に基づく執行を担う英国の通信規制当局Ofcomは今週、回答を求めてXおよびそのxAI部門に連絡したと述べた。情報コミッショナー事務局（ICO）も懸念を表明した。
声明でOfcomの広報担当者は次のように述べた。「Grokの機能について…人々の衣服を脱がせた画像や、子どもを性的に描写した画像を生成するという深刻な懸念が提起されていることを認識している。
「英国のユーザーを保護するという法的義務を遵守するために、XとxAIがどのような措置を講じてきたのかを把握するため、緊急に連絡を取った。回答に基づき、調査に値する潜在的な遵守上の問題があるかどうかを判断するため、迅速な評価を行う」
ICOは次のように述べた。「Grokが生成したコンテンツに関する深刻な懸念を提起する報告を認識している。英国のデータ保護法を遵守し、個人の権利を保護するために講じている措置について明確化を求め、XとxAIに連絡した。回答を精査したうえで、追加の対応が必要かどうかを速やかに評価する」
インターネット・ウォッチ財団（IWF）は今週、同財団のアナリストがGrokが児童虐待画像を生成するのを目撃したと主張した。
IWFのホットライン責任者であるンガイア・アレクサンダーは、Sky Newsに対し、Grokは英国法上カテゴリーC（わいせつだが露骨に性的ではない）に該当するとみなされる虐待画像を作成していると語った。こうしたGrok生成のカテゴリーC画像は、その後別のAIツールに投入され、最も重大なカテゴリーAの動画を作るために用いられるという。
「とりわけ子どもを含め、人々を虐待し傷つけるために使える製品を世界の一般公開に出すことに、言い訳はない」と彼女は述べた。
アレクサンダーによれば、IWFが確認した画像はGrokやX上に直接あるのではなく、ユーザーがGrokを使って性的に描写した画像を生成したと主張しているダークウェブのフォーラム上にあるという。
ソーシャルメディアおよびディープフェイク調査員のジュヌヴィエーヴ・オーが行った追加調査（Bloombergが報じた）により、1月5日から6日にかけての24時間で、Grokが1時間あたり約6,700枚の性的に描写された画像を生成していたことが明らかになった。
騒動を受け、英国の技術担当相リズ・ケンドールは、Xは「これに緊急に対処しなければならない」と述べた。
「私たちは、女性や少女を不釣り合いに標的とする、こうした侮辱的で品位を貶める画像の拡散を許すことはできないし、許さない」と彼女は述べた。「誤解のないように言えば、英国はオンライン上での不快で虐待的な素材の際限ない拡散を容認しない。私たちは皆で力を合わせ、根絶しなければならない」
Xが英国の規制当局にどう対応するかによっては、この問題は施行以来、オンライン安全法の実効性を試す最大級の試金石の一つとなり得る。
国際法律事務所Simmons & Simmonsでテクノロジー、メディア、通信部門の責任者を務めるアレクサンダー・ブラウンは、OSAが、同意のない親密画像の共有（AI生成のディープフェイクを含む）を「優先犯罪」として明確に指定している点を指摘した。
これは、Xが「そのようなコンテンツがプラットフォーム上に表示されるのを防ぐために、積極的かつ相応の措置を講じ、検知した場合には迅速に削除する」必要があることを意味すると、彼は付け加えた。
Xはコメント要請に直ちには応じなかった。
オンライン安全法違反は、最大1,800万ポンド（2,420万ドル）または組織の対象となる全世界売上高の10％のいずれか高い方の罰金につながり得る。®
翻訳元: https://go.theregister.com/feed/www.theregister.com/2026/01/08/uk_regulators_swarm_x_after/
