民主党議員ら、国際規制当局が圧力を強める中、GoogleとAppleにXアプリの削除を要求

上院民主党議員3人が、欧州と英国の国際規制当局が、GrokのAIツールを使ったユーザーの大量「脱衣」行為をめぐり同サイトの調査に向けた動きを進める中、AppleとGoogleに対し、イーロン・マスクのXをアプリストアから削除するよう求めている。

金曜日、ロン・ワイデン（オレゴン州選出）、ベン・レイ・ルハン（ニューメキシコ州選出）、エド・マーキー（マサチューセッツ州選出）の各上院議員は、AppleとGoogleの最高経営責任者に書簡を送り、「Xに対してあなた方のアプリストアの利用規約を適用して執行する」よう求めた。

「Xによる、女性や子どもを描いたこれら有害で、おそらく違法な描写の生成は、あなた方のストアの配信条件を完全に無視していることを示している」と彼らは書いた。

上院議員らは、Google Playストアの利用規約から、アプリは「子どもの搾取や虐待を助長するコンテンツをユーザーが作成、アップロード、または配布することを禁止しなければならない」とする条項を引用し、違反があれば即時削除の対象になると指摘した。Appleの規約は、「不快」または「ただただ気味が悪い」アプリやコンテンツに対して措置を取る広い裁量を認めており、彼らは、Xで起きていることは明らかにこれに該当すると主張した。

「Xがこれらの傾向を把握していたこと、そして良く言っても過失的な対応だったことに、誤解の余地はない」と議員らは書いた。 

議員らは、両社がこれまで行動やコメントを示していないことを、ICEBlockやRed Dotなど、全米で移民・関税執行局（ICE）の活動を追跡することを目的としたアプリをストアが扱ったやり方と明確に比較した。 

「Grokのぞっとするようなコンテンツ生成とは異なり、これらのアプリは有害または違法なコンテンツを作成もホストもしていなかった。それにもかかわらず、移民執行官に対するリスクだという政権の主張だけを根拠に、あなた方はそれらをストアから削除した」と上院議員らは指摘した。

この呼びかけは、国際規制当局がこのスキャンダルをめぐってXへの圧力を強める中で行われたものであり、数週間にわたる批判の後、XがGrokのディープフェイク機能をどの程度制限したのかについて相反する報道が飛び交っている。

英国の通信規制当局である通信庁（Ofcom）は、Grokを通じてユーザーが生成している画像についてXに「緊急に」連絡したと述べ、Xの回答に基づき、「英国オンライン安全法の下で潜在的な遵守上の問題があるかどうかを判断するため、迅速な評価を行う」とした。金曜日、キア・スターマー首相はこれらの画像を「違法」で「不快だ」と呼び、Xの禁止の可能性を含むあらゆる選択肢を検討していると約束した。

一方、欧州連合（EU）はロイターによれば、Grokに関連するすべての文書を2026年まで保存するようXに命じた。これは、規制当局または法執行機関の調査対象となり得ることを示すものだという。

CyberScoopなどが報じたように、法的専門家は、マスクがXを州当局、連邦規制当局、法執行機関からの広範な法的・規制上のリスクにさらしている可能性があると述べている。

マスクの所有下でジャーナリストからの問い合わせに応じていないXが、一部ユーザーに対してGrokのディープフェイク機能を制限する措置を取っている可能性がある、という相反する報道も出ている。

金曜日、マスクはXに、同機能を有料ユーザーに限定していると投稿した。これにより、違法な性的ディープフェイクを収益化することは問題の解決にならないと指摘する観察者から、新たな怒りの声が噴出した。それ以前に、このスキャンダルに言及したマスクの唯一の公の反応は、Grokが生成した「ビキニを着た自分」のディープフェイクに対し、「泣き笑い」絵文字付きで投稿したものだった。

マスクは有料購読者数を公表していないが、TechCrunchの分析によれば、アプリ内課金として報告された収益に基づくと、ユーザー数は最大で130万〜370万人に達する可能性がある。

しかし、非課金ユーザーがGrokを通じてさらなる性的ディープフェイクを作れないよう締め出されたという主張でさえ不正確かもしれない。SNS上のユーザーは、変更後も、XまたはGrokのウェブサイトを通じて、無料ユーザーとしてGrokのディープフェイク機能にアクセスできたと報告している。