カリフォルニア州司法長官、X上の性的ディープフェイクをめぐり調査を開始

カリフォルニア州司法長官のロブ・ボンタ氏は水曜日、xAIの人工知能モデル「Grok」が、女性や子どもの同意のない性的に露骨な画像を大規模に作成するために使用されているとの疑惑を受け、xAIに対する調査を開始したと発表した。これは、AI生成ディープフェイクに対処するための規制上の取り組みがさらに強化された最新の動きとなる。

カリフォルニア州の調査は、Grokの「スパイシーモード」に焦点を当てている。これは露骨なコンテンツを生成するために設計された機能で、xAIは自社プラットフォームの差別化要素としてこれを売り込んできた。ボンタ氏の事務所によれば、ここ数週間の報道で、オンライン上で見つけた女性や子どもの通常の写真をユーザーが加工し、本人の認識や同意なしに性的な画像を作成する事例が広範に確認されているという。

「ここ数週間、xAIが生成しオンラインに投稿した、同意のない性的に露骨な素材について詳細に伝える報告が雪崩のように相次いでいることは衝撃的だ。この素材は、女性や子どもが裸や性的に露骨な状況にある様子を描写しており、インターネット上で人々を嫌がらせするために利用されてきた。これ以上拡大しないよう、xAIに直ちに行動を取ることを強く求める。AIを用いた同意のない親密画像の作成・拡散、あるいは児童性的虐待素材について、私たちは一切容認しない」とボンタ氏は声明で述べた。 

調査では、こうしたコンテンツの作成を容易にする機能を開発・維持するにあたり、xAIがカリフォルニア州法に違反したかどうかを検証する。ボンタ氏は、カリフォルニア州民の安全を守るため「手元にあるあらゆる手段を用いる」と述べたが、どの法令に違反した可能性があるかは明らかにしなかった。

イーロン・マスク氏が設立したxAIは、Grok生成画像が流通しているソーシャルメディアプラットフォームXも所有している。 

同社は、調査開始の発表に対して公に反応していない。マスク氏は水曜日、「Grokが生成した未成年の裸画像など、私は認識していない。文字どおりゼロだ」と投稿した。

CyberScoopはコメントを求めてXに連絡している。 

この発表は、上院がDEFIANCE法を全会一致で可決した翌日に行われた。同法は、同意のない性的に露骨なディープフェイクの被害者に対し、そのようなコンテンツを制作または配布した者に民事訴訟を提起する権利を付与するものだ。法案は今後下院に送られるが、同様の法案は上院の承認があったにもかかわらず、2024年には下院で停滞した。

上院でのDEFIANCE法可決は、テクノロジー規制をめぐる超党派の合意が成立した稀な局面を示している。この法案は、ディック・ダービン上院議員（民主党・イリノイ州）とリンゼー・グラム上院議員（共和党・サウスカロライナ州）が提出したもので、火曜日の上院本会議での全会一致同意の要請に際し、異議は一切出なかった。

同法案は、同意のない性的に露骨なデジタル偽造物を、故意に制作・配布する、または配布目的で所持する個人に対し、連邦レベルの民事責任を定めるものとなる。露骨なディープフェイクの被害者であることを認めているアレクサンドリア・オカシオ＝コルテス下院議員（民主党・ニューヨーク州）は、共和党7人、民主党6人の支持を得て、下院で対応法案を提出した。

こうしたコンテンツを作成する技術は一般の人々にもますます利用しやすくなっており、かつては専門的な技術知識を持つ者に限られていたディープフェイク制作の障壁を下げている。

カリフォルニア州はAI規制の焦点として浮上しており、州議会はAIの安全性に関する懸念に対処することを目的とした複数の法案を可決してきた。ボンタ氏はAIと子どもに関わる問題で特に積極的で、9月にはデラウェア州司法長官とともにOpenAI幹部と会談し、AI製品が若者とどのように相互作用するかについての懸念を協議した。8月には、AIチャットボットと子どもの間で性的に不適切なやり取りがあったとの報告を受け、主要AI企業12社に書簡を送付した。

カリフォルニア州の調査は、英国が今週初めに発表した、X上でのディープフェイク拡散に関する独自の調査を実施しているという動きと重なる。