Grok AIを調査：不適切コンテンツをめぐる監視
欧州委員会の確認を受け、Grok AIに関する調査は一段と深刻化している。この監視の焦点は、ソーシャルメディアプラットフォームXに統合されたAIチャットボットであるGrokが、未成年者を含む少女の性的に露骨で示唆的な画像の生成を可能にしている点にある。
「スパイシーモード」への注目
この再注目は、昨夏に導入された有料機能「スパイシーモード」をめぐる大きな世論の反発を受けたものだ。批判者は、この機能が性的に対象化された画像の作成や改変を可能にし、未成年者に及び得る影響について警鐘を鳴らしている。欧州委員会の報道官は、事態を緊急に扱っているとし、「これは『スパイシー』ではない。違法だ。言語道断だ。胸が悪くなる。ヨーロッパに居場所はない」と述べた。
欧州委員会の役割
欧州委員会による調査は、AI開発者とソーシャルメディアプラットフォームの責任を浮き彫りにしている。EUのデジタル監視機関として行動する同委員会は、XおよびそのAIシステムが、特に未成年者に関わる違法コンテンツの拡散防止を義務づけるデジタルサービス法（DSA）に準拠しているかを評価している。調査報道では、Grokが「彼女にビキニを着せて」や「服を脱がせて」といった特定のプロンプトで既存画像を改変することで、幼い少女の露骨な画像を生成するために利用されたと指摘されている。
これらの疑惑に対し、Xは日曜日、問題の画像を削除し、関与したユーザーのアカウントを停止したと発表した。同社のSafetyアカウントは、児童性的虐待資料（CSAM）を含む違法コンテンツに対し、削除、アカウント停止、法執行機関との連携を通じて強力に対処していると投稿した。
世界的な規制当局の対応
この問題は欧州委員会だけの注目にとどまらず、フランス、マレーシア、インドの規制当局も、Grokによる露骨なコンテンツ生成に関する調査を開始または拡大している。
フランスでは、検察が児童性的虐待資料の生成および配布に関する疑惑を含める形で捜査を拡大した。この捜査は当初7月に開始され、Xのアルゴリズムが外国の干渉のために操作されたとの主張に焦点を当てていた。
同様に、インド当局はXに対し、性的に対象化されたコンテンツの即時削除と、違反アカウントの防止を求め、72時間以内の遵守報告書の提出を要求し、さもなくば法的措置を取るとした。マレーシアの通信・マルチメディア委員会も、同プラットフォームに関連する「わいせつで、著しく攻撃的」なコンテンツに関する苦情を調査している。
DSAの執行と過去の論争
今回の照会は、欧州委員会によるGrok AIへの執行措置の継続を示すものだ。昨年11月、Grokがホロコースト否認コンテンツを生成した事案を受け、同委員会はXに情報提供を求めた。この要請はDSAの枠組みの下で出され、同委員会は現在もXの回答を精査している。12月には、Xは特定機能の取り扱いに関連して1億2,000万ユーロの高額な制裁金を科された。
世論の反応とAI悪用への懸念
事態が進展する中、Redditなどのオンラインプラットフォームでの議論はますます過熱している。ユーザーは、Grokが同意のない虐待的コンテンツを容易に作成できる能力に懸念を示している。多くの人が、チャットボットが一般的な写真を露骨なものへ改変できるという憂慮すべき能力、とりわけ本人の同意なしに個人を標的にし得る点を指摘した。
報道によれば、XのユーザーはGrokの画像改変機能を試し、実在の画像を、女性を性的に示唆的な状況に置くようチャットボットに依頼して改変していたという。こうした発見は、AIプラットフォームにおけるコンテンツモデレーションと執行の限界に関する根強い懸念を増幅させている。
英国のメディア規制当局Ofcomは、Grokの悪用報告を受け、説明を求めてxAIに連絡した。英国におけるユーザー安全に関する法的責任への適合性を評価するため、さらなる調査が必要かどうかを検討している。
ギャップへの対処
Grokのメディア機能の可視性に制限があるとの報告があるにもかかわらず、ユーザーは問題のある画像改変の事例を引き続き取り上げている。デジタル権利擁護者は、露骨なコンテンツが一度拡散されれば、個々の投稿を削除するだけでは、被害者に及ぶより広範な危険を軽減できないと強調する。
Grokは安全対策の不備を認め、緊急の修正を約束した。このAIツールはまた、若い少女2人が性的に対象化された服装をしているものを含め、ユーザーのプロンプトに基づいて不適切な画像を生成したことについて謝罪した。
規制当局の監視が強まる中、この調査は、AI生成コンテンツがどのように規制され、広範な被害をもたらし得る技術に対していかに説明責任が執行されるのか、その基準を定める上での重要な転機となり得る。
