英国、AIディープフェイクポルノをめぐりXを調査

英国の通信規制当局は、XのGrok AIが、未成年者を含む人々を仮想的に脱がせることをユーザーに許している点について、ソーシャルメディアネットワークXを正式に調査している。

Ofcomは月曜日、オンラインプラットフォームに違法コンテンツへの対処を義務付ける、昨年施行された2023年の法律にXが準拠しているかどうかを調べると述べた。オンライン安全法の下で、Xは人々がそのようなコンテンツを目にしないよう防止する措置を講じ、通報された場合には削除しなければならない。

Ofcomの広報担当者は声明で、「GrokがX上で、違法な同意のない親密画像や児童性的虐待資料の作成・共有に使われているとの報告は、非常に憂慮すべきものだ」と述べた。「プラットフォームは英国で違法なコンテンツから英国の人々を守らなければならず、とりわけ子どもに危害が及ぶリスクがある場合、企業が義務を果たしていない疑いがあれば、私たちはためらわずに調査する。」

規制当局は今後、証拠を収集し、暫定的な判断を下し、Xに反論の機会を与える。これは数カ月かかる可能性が高いと、Ofcomの広報担当者はInformation Security Media Groupに語った。同担当者は、この調査が同庁の「最優先事項」だと付け加えた。

オンライン安全法により、OfcomはXの年間売上高の最大10%に相当する罰金を科すことができ、さらには裁判所に対し同社へのブロッキング命令を求めることもできる。

英紙テレグラフは金曜日、キア・スターマー首相がカナダおよびオーストラリア政府と、同プラットフォームの協調的な禁止について協議したと報じた。リズ・ケンドール技術相は金曜日、OfcomがXのブロッキングを求める判断をした場合、政府は全面的に支持すると述べた。

これまでに2カ国が、性的機能を理由にGrokへのアクセスを一時停止する措置を取った。最初は土曜日のインドネシア、次いで日曜日のマレーシアである。

インドネシアの通信相ムティヤ・ハフィドは、ロイターが報じた声明で、「政府は、同意のない性的ディープフェイクの行為を、人権、尊厳、そしてデジタル空間における市民の安全に対する重大な侵害と見なしている」と述べた。

XのオーナーであるxAIが開発したGrokは金曜日、騒動の発端となったAI画像生成・編集機能にアクセスするには、今後サービスへの購読が必要になるとXユーザーに伝えた。英国政府はこれに感心せず、スターマー首相の報道官はPoliticoに対し、この動きは「違法画像の作成を可能にするAI機能を、単にプレミアムサービスにしただけだ」と述べた。

いずれにせよ、ユーザーは薄着や性的なポーズの個人のAI加工画像を投稿し続けられるようで、単体のGrokチャットボットアプリも何ら制限を課していない。

コメント要請に対し、xAIの広報部はいつもの自動メッセージ「レガシーメディアは嘘をつく」を送ってきた。Xのオーナーであるイーロン・マスクはここ数日、英国政府が「検閲のための口実を何でも見つけようとしている」と主張しており、同国で極右ポピュリストを強く後押しする中で、中道左派の労働党政権に対して繰り返し投げつけてきた非難でもある。彼は同意のない性的な画像化に関する懸念を概ね一蹴しており、1月2日にはビキニトップを付けたトースターの画像を再投稿した。「これは笑いが止まらなかった」と述べ、泣き笑いの絵文字を2つ付け加えた。

Ofcomは声明で、自らは「検閲者ではない」と強調し、プラットフォームに対してどの特定コンテンツを削除すべきかを指示するものではないとした。「私たちの仕事は、サイトやアプリが、英国で違法なコンテンツから英国の人々を守り、またポルノのように子どもに有害なその他のコンテンツから英国の子どもを守るために、適切な措置を講じているかどうかを判断することだ」と声明で述べた。

野党・保守党党首のケミ・ベイドノックは、Ofcomが調査を開始する前に「Xを禁止するのは誤った答えだ」と述べ、政府がそのような動きに熱心なのは他の論争から目をそらすための試みだとした。

英国政府は先月、いわゆる「ヌーディフィケーション」アプリを明示的に禁止し、その作成を犯罪化する法案を導入した。

英国以外では、欧州委員会が先週後半、今回のスキャンダルに関連して、Xに対し今年末までGrokに関するすべての情報を保持するよう求めたと述べた。「これはプラットフォームに対して、内部文書を保持し、破棄しないようにと言っている。なぜなら私たちは遵守状況に疑念を抱いており……明示的に要請した場合にアクセスできる必要があるからだ」と、報道官のトーマス・レニエは木曜日に述べた。

こうした懸念は、違法コンテンツの取り扱いを規定する欧州デジタルサービス法（DSA）違反に関する新たな調査の前触れとなり得る。欧州委員会はすでに、透明性およびXのブルーチェック認証制度の欺瞞的性質に関するDSA違反を理由に、12月上旬にXへ1億2000万ユーロ（約1億4000万ドル超）の制裁金を科している。

インド政府は木曜日、違法コンテンツに対する技術的セーフガードの詳細を求めた以前の要求に対し、Xが「使い回しの社内方針」しか提示しなかったと報じられたことを受け、法的措置を取るとXを脅した。The Hinduは日曜日、Xが方針を転換し、わいせつコンテンツに関するインド法に従うとニューデリーに伝えたと報じた。

フランス当局も、同国の議員からの苦情を受けてこの問題を調査しており、パリ検察は、Xによる違法なホロコースト否認コンテンツの拡散といった問題も対象とする既存の捜査に組み込んだ。

アイルランドでは、パトリック・オドノバン通信相が木曜日、X上で生成される違法画像について責任があるのは企業ではなくユーザーだと主張し、物議を醸した。これはマスクも取っている立場である。「最終的には……そうした画像を作るのは個人の選択だ」と彼は述べた。

法律専門家はIrish Examinerに対し、これは誤りであり、児童性的虐待資料の作成を助長することは、いかなる企業にとっても犯罪だと語った。

米国では、トランプ政権側に、コンテンツ問題をめぐってマスクを取り締まろうとする政治的機運はほとんどない。

一部の民主党上院議員は金曜日、XとGrokをアプリストアから削除するようAppleとGoogleに求めた。両テック企業は以前、ヌーディフィケーションアプリを自社のリポジトリから削除したことがあるが、現存するアプリの中でも最も著名で政治色の強いものの一つについて、同様の対応を繰り返すよう求める声には、まだ応じていない。