Grokの画像悪用プロンプトを受け、Xが新たな安全対策を導入

イーロン・マスクのソーシャルメディアプラットフォームXはこのほど、AIチャットボット「Grok」に関する重要な更新を発表した。これらの変更は、同意のない性的に強調された画像の生成を防ぐことを目的としており、同プラットフォームの画像生成機能をめぐる懸念の高まりを受けたものだ。

虐待に対するゼロトレランス方針

Xの公式セーフティアカウントによる声明で、同プラットフォームは児童の性的搾取および同意のないコンテンツに関して「ゼロトレランス」方針を堅持する姿勢を改めて示した。Xは、児童性的虐待資料（CSAM）を含む違法コンテンツの削除に向けた継続的な取り組みを強調し、ポリシーに違反するアカウントには厳格な執行措置が取られると述べた。必要に応じて、児童搾取資料に関する要請に対応するため、同プラットフォームは法執行機関とも連携している。

同社は、生成AIの急速な発展が業界全体に課題をもたらしていることを認識している。これらのリスクに対処するため、Xはユーザー、規制当局、その他の利害関係者と積極的に関与し、新たに出現する脅威に迅速に適応・対応できるよう取り組んでいる。

Grok AIへの新たな制限

安全への取り組みをさらに強化するため、XはGrok AIに技術的な制限を実装している。更新されたガイドラインでは、ビキニのような露出の多い服装に実在の人物の画像を編集することをチャットボットに禁止している。これらの変更は全世界に適用され、有料購読者かどうかにかかわらず、すべてのユーザーに影響する。

さらに、@Grokアカウントを通じた画像の作成および編集タスクは、今後は有料購読者に限定され、説明責任の層が追加される。この措置は、プラットフォームのポリシーに違反してGrokを悪用しようとする可能性のあるユーザーの特定に役立てることを目的としている。

ジオブロッキング措置の導入

これらの更新に合わせて、Xは一部の法域でジオブロッキング措置も展開している。特定の種類のコンテンツが違法とされる地域では、ユーザーはGrok AIで水着やそれに類する服装の人物画像を生成できなくなる。これらのジオブロッキング制御は、xAIのスタンドアロン版Grokアプリにも拡大される。

悪用報告への対応

これらの更新は、Grok AIをめぐる憂慮すべき報告を受けたものだ。複数の事例で、ユーザーが同意なく女性や子どもの性的に強調された画像を生成していたことが記録されている。批判は主に「Spicy Mode」と呼ばれる物議を醸す機能に向けられている。もともとGrokの独自機能として宣伝されていたこの機能は、広範な悪用を可能にし、同意のない画像の拡散に寄与していると非難されてきた。

ある分析では、直近の休暇期間中にGrokが生成した約2万枚近い画像のうち、半数以上が露出の少ない服装の人物を含んでいたとされ、コンテンツがもたらす含意について深刻な警鐘が鳴らされた。

当局による監視の強化

2026年1月14日、カリフォルニア州司法長官ロブ・ボンタは、Grokが生成する同意のない露骨な性的コンテンツの拡散に焦点を当て、xAIに対する調査を発表した。彼は、女性や子どもの露骨な描写を含む報告を「衝撃的」と表現し、問題に対処するため同社に断固たる行動を求めた。彼の事務所は、xAIによる法令違反の可能性を調査している。

国際的にも監視は強まっている。欧州委員会は、特に未成年者が関与する露骨な性的画像に関して、Grokの能力に対する調査を開始した。欧州当局者は、執行措置が近く取られる可能性があると示唆している。

アプリストアプラットフォームからの圧力

課題に追い打ちをかけるように、2026年1月12日、米国の上院議員3名がAppleとGoogleに対し、アプリストアからXとGrokを削除することを検討するよう求めた。彼らは、Grokが虐待的・搾取的コンテンツに関するアプリストアのポリシーに繰り返し違反していると主張し、そのようなコンテンツが継続する場合、アプリ配信プラットフォームも責任を共有し得ると示唆した。

継続的な監督と業界の課題

これらの大きな変更にもかかわらず、XはAI生成コンテンツに関する既存の安全ルールは維持されると強調した。同プラットフォームは、防護策の継続的な強化、違法コンテンツの削除、非準拠アカウントの停止、規制当局とのオープンなコミュニケーションの維持に取り組むとしている。

調査が進む中、Grokをめぐる状況は、急速に進化する技術環境におけるAI安全性と脆弱な個人の保護をめぐる継続的な議論において、注目すべき事例となりつつある。