英国政府が、命令ひとつで人々を「脱がせる」AI機能を理由に禁止を公然と検討したことを受け、Grokは画像生成のおもちゃを大半のXユーザーの手から引き上げた。
The Registerが確認したX上のユーザーへの返信で、Grokアカウントは「画像生成と編集は現在、有料購読者に限定されている」と認めた。これは、投稿でタグ付けして画像を求めれば誰でもシステムを呼び出せた従来の仕組みからの変更だ。
そのアクセスが陰惨な流行に拍車をかけた。ユーザーが服を着た人（ときに未成年）の写真をアップロードし、衣服を取り除いたり、性的に誇張したポーズを取らせたりするようボットに指示したのだ。Grokは従った。
この巻き戻しは、AIツールが可能にした乱用を抑え込めないなら、Xそのものを禁止またはボイコットするという考えを各国政府が公然と持ち出しているさなかに行われた。英国では、Grok生成画像のスクリーンショットがすぐに閣僚や規制当局の注意を引き、Xがオンライン安全法（Online Safety Act）を順守しているのかどうかを問い始めた。
保護担当大臣のジェス・フィリップスは歯に衣着せず、Grokを使って屈辱的で同意のない親密画像を作る行為を「まったくの恥辱」と呼び、女性や少女を嫌がらせ・虐待するために使われるツールによって人生が「破壊され得る」と警告したと、The Timesは伝えている。フィリップスによれば、政府は、いわゆるヌーディフィケーション（脱衣化）アプリの禁止をすでに約束しており、児童性的虐待素材を生成するよう設計されたAIツールを所持・作成・配布することを違法化する最初の国となる。刑罰は最長5年の禁錮となる。
キア・スターマー首相も同様の見解を示し、Grokで起きたことを「完全に容認できない」と断じ、政府が同プラットフォームの利用を続けるのか問われると「すべての選択肢がテーブルの上にある」と述べた。
首相はThe Telegraphによれば、「Xは態勢を立て直してこの素材を削除する必要がある。これは単に許容できないのだから、我々はこれに対して行動を取る」と語った。
議会の女性・平等委員会も、同プラットフォーム上での存在を見直していることを示唆し、女性と子どもに対する露骨で虐待的な素材を「積極的に生み出している」サービスは公式なコミュニケーションに適さないと述べた。
規制当局も同様に厳しい姿勢を取っている。Ofcomは、違法または有害なコンテンツの抑制に失敗したプラットフォームは、オンライン安全法の下で執行措置や高額の罰金に直面し得ると警告した。一方、情報コミッショナー・オフィス（ICO）は、特に実在の人物の画像が同意なく改変された場合に、データ保護法が侵害されたかどうかを調査していると述べた。
「Grokが生成したコンテンツに関して深刻な懸念を提起する報告があることは承知しています」とICOの広報担当者はThe Registerに語った。「英国のデータ保護法を順守し、個人の権利を保護するためにどのような措置を講じているのか明確にするため、XおよびxAIに連絡しました。」
XはThe Registerの質問に回答しなかったが、児童性的虐待素材を含む違法コンテンツに対して、投稿の削除、アカウントの停止、法執行機関との協力によって対処していると主張し、Grokに違法コンテンツを作らせるよう促した者は、自らそれをアップロードした場合と同じ結果に直面すると付け加えた。
マスクが画像生成を有料化するという判断は、利用者の一部をふるい落とすかもしれないが、そもそもなぜこの機能が最初から許されていたのかを問う規制当局を満足させる可能性は低い。®
翻訳元: https://go.theregister.com/feed/www.theregister.com/2026/01/09/grok_image_generation_uk/
