XのGrokAIツールが生成した、同意のない性的に誇張されたディープフェイクが広範に作られ共有されていることへの集団的な嫌悪感が高まり続けるなか、憤る傍観者たちは、この行為が野放しのまま続いており、会社オーナーのイーロン・マスクが――米国の規制当局からも法執行機関からも――この慣行を止めるよう強制されていないことに衝撃を示している。
法律の専門家によれば、連邦レベルでは、すでにいくつもの法律や規制が存在し、それらによりマスクとXは多額の罰金、民事訴訟、刑事訴追にさらされ得るという。
そうした手段には、Take It Down Actのような新法も含まれる。これは昨年、エイミー・クロブシャー上院議員（民主党・ミネソタ州）とテッド・クルーズ上院議員（共和党・テキサス州）が提出した法案で、性的に加工されたAI生成画像を共有した個人を刑事訴追し、被害者から通知を受けたプラットフォームに対して48時間以内の削除を義務づけるものだ。
クロブシャーは、Xに投稿し、AI生成の素材を「言語道断」だと呼び、この法律は執行されると述べた。
「誰も、自分のAI生成の性的画像がオンライン上にあるのを見つけるべきではありません――特に子どもは」とクロブシャーは書いた。「Xはこれを変えなければならない。変えないなら、超党派のTAKE IT DOWN Actがまもなく彼らにそれを義務づけることになる」
AIはいまだ新興技術であるため、刑事法規にどう適用されるのか、また執行判断に関する問題が依然として不明確であり――連邦の規制当局、法執行機関、裁判所には指針が限られている。たとえば、Take It Down Actの下で、どれほど多くの画像や被害者が法的または規制上の措置の対象になり得るのかは、現時点でははっきりしない。
「定義が、いま私たちが直面している事態にとって有利ではありません」と、データプライバシーとセキュリティ問題を専門とする全国法律事務所Lowenstein Sandlerのパートナー、エイミー・ムシャワーは語った。
Take It Down……そのうちに
Take It Down Actは2つの方法で執行できる。すなわち、オンラインでそのような画像を生成・共有した者を刑事訴追すること、そして被害者がプラットフォームに削除通知を提出し、プラットフォームが2日以内に画像を削除しなければならないという仕組みだ。どちらも、Xで起きていることに完全に当てはまるわけではない。
連邦取引委員会（FTC）を通じて執行されるこの法律の削除条項は、5月まで発効しない。
一方で刑事罰はすでに有効だが、司法省（DOJ）が捜査し起訴できるのは、Grokに加工写真を生成させるよう促した個人に限られ、会社やマスク本人を対象とするものではない。
さらに事態を複雑にしているのは、特定の法的定義への依拠により、Grokで生成された一部の画像の訴追が難しくなり得る点だ。被害者の年齢、あるいはわずかな衣服が描写されているかどうかが、その画像が法律違反になるか否かの分かれ目になり得る。
弁護士や議会スタッフとの会話では、多くの人が、Take It Down ActはGrokにおける最も悪質な違反――ヌードや未成年者の性的な描写――には明確に適用される一方、他の事例には適用が難しいだろうと述べた。というのも同法は、ディープフェイクを用いた「親密な視覚的描写（intimate visual depictions）」の共有を犯罪化しているが、米国法上これは、個人の露出した性器を示す画像、または体液で覆われた状態でそれらを表示する画像と定義されているからだ。
「それは法律上、特定の意味を持ちます。したがって、裸の人物の描写は『親密な視覚的描写』になり得ますが、ビキニ姿の人物はそうならないかもしれません」と、Center for Democracy and Technologyの政策担当副社長サミール・ジェインは述べた。
Grokによって服を脱がされ、ビキニやランジェリー、その他の挑発的な衣装を着せられた被害者は、代替的に、成人および未成年に対するデジタル偽造を禁じる同法の別条項に基づいて救済を求めることもできる。
米国量刑委員会は、同法の下で最低・最高の罰金額や禁錮刑をどう設定するか、また米国刑法のさまざまな犯罪や条項にどう適用されるかについて、現在取り組んでいる。
通信品位
制限的な文言や執行時期の遅れがあるとしても、Grokによるユーザーの大量の「脱衣」は、他の連邦法および州法にも抵触する可能性が高いと、法律専門家はCyberScoopに語っている。
また、Xの行為が、通常はソーシャルメディア・プラットフォームを民事訴訟から守る通信品位法（Communications Decency Act）第230条によって本当に保護されるのか疑問視する声もあった。
第230条は伝統的に、ユーザーコンテンツに関する訴訟からソーシャルメディア企業を守る法的な防波堤だったが、Grokは会社の機能であるため、Xには同法上の独自の責任が生じ得る。
ジェインは、第230条の法的保護は、プラットフォームがユーザーによって投稿された第三者作成コンテンツについて責任を負うべきではないという考えに基づいていると述べた。しかしこのケースでは、X自身の組み込みAIツールが画像を生成している。
「[Grok]は少なくとも画像の作成または開発に関与したという有力な主張があります。Grokはユーザーの求めに応じて作成したように見えるため、第230条で保護されるユーザーコンテンツではない可能性があります」と彼は述べた。
ただし彼は、マスクの共和党およびドナルド・トランプ大統領との関係が、連邦機関が強硬姿勢を取ることを抑止する可能性もあると示唆した。たとえばFTCでは、トランプが民主党により指名された2人の委員を解任しており、過去の政権よりも党派的でホワイトハウスの統制が強い組織になっている。
「法律は連邦政府による執行を必要とします。刑事（法）の場合は司法省ですが、削除の部分の場合はFTCです」と彼は述べた。「したがって、政権がXとマスクに対してそれらの法律をどの程度本気で執行するつもりなのか、という点でも疑問が生じ得ます」
州司法長官の活躍の余地
スタンフォード大学のCenter for Internet Securityの非常勤フェローであるリアナ・フェファーコーンが指摘したように、議会はTake It Down Actのような立法を通じて、AI生成の性的ディープフェイクの犯罪化に関するより広い立場を示してきた。加えて、多数の州がCSAM（児童性的虐待資料）対策法を制定しており、その中にはAI生成の児童ポルノを明確に標的とするものも多い。
ムシャワーも同意し、たとえマスクが連邦の監視を免れたとしても、州の司法長官が既存のCSAM法やデジタル偽造法の執行に積極的に動く可能性が高いと予測した。また、Xで生成され投稿されているAI画像を「論理的な拡張」でカバーできる箇所を探すだろうとも述べた。
このスキャンダルが広範な嫌悪感をもって受け止められていることを踏まえると、多くの司法長官は、有権者からの強い圧力を受け、手元にあるあらゆる法的手段を用いて加害者を追及しようとする可能性が高い。
「法的な意味だけでなく、子どもの安全という意味でも、イーロン・マスクは火遊びをしていると思います」とムシャワーは語った。「たとえば、あなたのプラットフォームが小児性愛者の関心を引くことで成長しているのだとしたら、それは、最終的に人身取引の温床になりかねない汚泥だまりを生み出していることになります」
翻訳元: https://cyberscoop.com/elon-musk-x-grok-deepfake-crisis-section-230/
