ソーシャルメディアプラットフォームが、Grokによる人々のデジタル上の「脱衣」をブロックすると述べたにもかかわらず、OfcomはXに対する調査を継続している。
英国の通信規制当局の広報担当者は木曜日、次のように述べた。「Xは、Grokアカウントが人々の親密な画像を作成するために使用されるのを防ぐ措置を実装したと述べています。
「これは歓迎すべき進展です。しかし、当局の正式な調査は現在も継続中です。何が問題だったのか、そしてそれを修正するために何が行われているのかについて回答を得るべく、24時間体制でこれを前進させています。」
この声明は、Xが、Grokが実在の人物の画像を編集して、衣服が少ない、あるいは衣服を着ていないかのように見せることを防ぐための「技術的措置を実装した」と確認したことを受けたものだ。
OfcomがXに最初に連絡したのは1月5日で、同社のAIチャットボットGrokが画像をデジタル上で脱衣させ、実在の人物の性的に誇張された描写を生成するために使われているという報告が広く出回ったことを受けてのことだった。対象は主に女性だが、子どもも含まれていた。
1週間後、規制当局は、Xがオンライン安全法（Online Safety Act）を順守していたかどうかを把握するため、Xに対して正式な調査を開始した。
水曜夜、Safetyアカウントを通じて、Xは次のように述べた。「私たちは、Xを誰にとっても安全なプラットフォームにすることに引き続きコミットしており、児童の性的搾取、同意のないヌード、望まれない性的コンテンツのあらゆる形態に対して、引き続き一切の容認をしません。
「私たちは、児童性的虐待資料（CSAM）や同意のないヌードを含む優先度の高い違反コンテンツを削除するために措置を講じ、Xルールに違反するアカウントに対して適切な対応を取ります。また、必要に応じて、児童の性的搾取資料を求めるアカウントを法執行当局に通報します。」
Grokによる被写体の脱衣化をブロックすることに加え、Xは、法律によりそのようなコンテンツが制限されている地域では、ビキニ、下着、または同様に露出の多い服を着た人物の画像を生成するチャットボットの機能にジオブロックも実装した。社内では「スパイシーモード」として知られている。
イーロン・マスク所有のこのプラットフォームが最初に行ったダメージコントロールの試みは、以前はサイトに登録したどのユーザーでも利用できたGrokの脱衣化機能を、単に有料ユーザーのみに制限することだった。
しかし、テクノロジー担当相のリズ・ケンダルはこの動きを強く拒否し、「お金を払う気があるならGrokがまだこれを許すというのは侮辱であり、まったく容認できない」と述べた。
Xは現在これを更新し、この制限は「有料購読者を含むすべてのユーザーに適用される」と述べている。
ケンダルは木曜日、Xの最新発表を受けて新たな声明を出し、プラットフォームが政府の要請に従ったとしているにもかかわらず、Ofcomに対し同社を徹底的に調査するよう促した。
「Xのこの動きは歓迎しますが、Ofcomの継続中の調査によって事実が完全かつ厳格に確立されることを期待します」とケンダルは述べた。
「私たちのオンライン安全法は、ソーシャルメディア上で人々、特に子どもたちを安全に保つことを目的としており、そして常にそうであり続けてきました。この法律は、ここ数日でXに責任を問うための手段を私たちに与えてくれました。
「また、この虐待に対して声を上げた人々、とりわけ被害者に感謝したい。私は、すべてのソーシャルメディアプラットフォームが法的義務を果たし、すべてのユーザーに対して安全で年齢に適したサービスを提供するまで、決して休みません。
カリフォルニア州司法長官のロブ・ボンタも今週、Xに対する調査を開始し、女性や子どもを脱衣化していたという報告に対して直ちに行動を取るよう求めた。
「ここ数週間、xAIが生成してオンラインに投稿した同意のない性的に露骨な素材を詳細に伝える報告の雪崩は衝撃的です」と彼は述べた。
「女性や子どもを裸や性的に露骨な状況で描いたこの素材は、インターネット全体で人々を嫌がらせするために使われてきました。
「これ以上進まないようにするため、xAIに直ちに行動を取るよう強く求めます。AIに基づく同意のない親密画像、または児童性的虐待資料の作成および拡散に対して、私たちは一切の容認をしません。」 ®
翻訳元: https://go.theregister.com/feed/www.theregister.com/2026/01/15/ofcom_grok_probe/
