議員ら、性的に加工されたディープフェイクをめぐりアプリストアにGrokとXの削除を要請

米国の上院議員3人は、同意なく実在の人物（子どもを含む）の性的な画像を作成するためにAIツールが使用されたことを受け、イーロン・マスクのGrokおよびXアプリをアプリストアから削除するよう、GoogleとAppleに求めている。

議員らが金曜日に行った働きかけは、マスクが画像生成のニュースに対して「泣き笑い」の絵文字で反応し、Grokの行為を軽く扱った1週間の後に行われた。木曜深夜、XはGrokを調整し、画像生成機能の利用をプレミアム加入者に限定したが、この措置はGrokの振る舞いをめぐって拡大する論争を鎮めるにはほとんど効果がなかった。

XとGrokはいずれも、マスクのxAI社の部門だ。

「Xが行った変更は、Xアプリでおぞましい画像を作るという特権のために一部のユーザーに支払いをさせるだけで、その一方でマスクは子どもへの虐待から利益を得ている」と、ロン・ワイデン上院議員（民主党・オレゴン州）は金曜日の声明で述べた。

ワイデン議員とエド・マーキー上院議員（民主党・マサチューセッツ州）、ベン・レイ・ルハン上院議員（民主党・ニューメキシコ州）は、Googleのスンダー・ピチャイCEOとAppleのティム・クックCEOに宛てた共同書簡で、Grokの行為はアプリストアの利用規約に違反していると述べた。

「女性や子どものこうした有害で、おそらく違法な描写をXが生成していることは、貴社ストアの配信条件を完全に無視していることを示している」と、書簡は述べている。「AppleとGoogleは、Xのポリシー違反が是正されるまで、これらのアプリをアプリストアから削除しなければならない。」

書簡によれば、Grokがここ数日で生成した画像には、女性が性的虐待を受け、拷問され、殺害される描写が含まれている。 

別の事例では、議員らがピチャイ氏とクック氏に伝えたところによると、Grokは子どもの性的な画像も作成している。議員らは、研究者によって見つかったGrokアプリのアーカイブを挙げ、そこには8月以降に生成された、児童性的虐待資料に該当する可能性のある画像が約100枚含まれていると述べた。

「Xの甚だしい行為を見て見ぬふりをすることは、貴社のモデレーションの実務を嘲笑することになる」と書簡は述べている。「実際、行動を取らなければ、アプリをユーザーが直接スマートフォンにダウンロードできるようにするよりも、貴社のアプリストアの方が安全なユーザー体験を提供しているという、世間および法廷での主張を損なうことになる。」

GoogleとAppleはコメント要請に応じなかった。

欧州の規制当局は、GrokをめぐってXに対する措置を真剣に検討していると述べているが、米国当局は現時点まで沈黙している。