連邦取引委員会（FTC）は、非同意のセクシュアライズされたディープフェイクおよび音声クローニング詐欺の拡散を含む、悪意のある目的でのAIの使用を制限するための関与を深める準備ができている。
昨年、議会は「テイク・イット・ダウン法」を可決した。この法律により、非同意の親密な画像やデジタル偽造品（AI生成のものを含む）を共有または配布する個人を刑事起訴することが可能になった。
先週の上院監視聴聞会で、FTC議長アンドリュー・ファーガソンは、この新しい法律を現在の議会とドナルド・トランプ大統領の行政府による「最大の立法成果」の1つと称し、FTCが「堅牢な執行」のために準備していると述べた。
今月初め、司法省はこの新しい法律に基づいて初の有罪判決を獲得した。37歳のコロンバス、オハイオ州の住民ジェームス・ストラーラーが、少なくとも6人の女性をターゲットにしたハラスメントキャンペーンの一環として、AI生成のディープフェイク裸画を使用したことで有罪答弁した。
この法律の別のセクションは5月に発効する予定であり、個人が性的ディープフェイクを公開またはホストするウェブサイトに「削除」通知を提出することを許可する。企業は48時間以内にコンテンツを削除するか、FTCの調査と執行の対象となる。
委員マーク・メーダーはワシントンD.C.での3月30日の会議で、「決してそれを執行する必要がない」ことを望んでいるが、FTCは「テイク・イット・ダウン」執行を最優先事項として扱っており、「削除規定を執行するために必要なすべてのことを積極的に準備している」と述べた。
これはテック業界、特にxAIのような企業との最初の主要な対立の1つを素早く引き起こす可能性がある。そのGrokツールは今年初めに直面したスキャンダルの後でも、実在の人物の非同意ディープフェイク画像を作成およびホストするために継続して使用されている。
彼のスピーチの後、CyberScoopはメーダーに、削除規定がGrokのユーザーの大量ヌード化に対してどのように適用されるかを尋ねた。彼は、5月から始まる正式な苦情を受け取るまで、委員会が企業に対して行動を取ることはできないと法律が指定していると述べた。
「これが実施されるようになり、その後彼らがコンテンツを削除しない場合、我々は苦情を受け取り、その時点で彼らを追跡する」とメーダーは述べた。「したがって、我々はある種、企業がどのように苦情と要求に対応するかを見守る必要があり、私の願いは、削除要求を受け取るすべての企業がすぐにそれを削除することだ。」
xAIの報道室は、テイク・イット・ダウン法への準拠の準備に関するコメント要求に応じなかった。
まだ判決を受けていないストラーラーは、近所の子どもたちの写真を使用してディープフェイクポルノを作成したことも認めている。今月初めに発表された戦略計画は、オンラインで子どもを保護することをコミッションの「重要な懸念」としてフラグを立て、より多くの消費者ツールとリソースに値することを示した。
「委員会は、テイク・イット・ダウン法の下での新しい権限を含む、FTCが子どもを保護し家族をサポートできる他の方法を探索することに専念している」と計画は述べている。
プライバシー弁護士でアームストロング・ティースデイルのシニアアソシエイトであるケーシー・ワーンは、CyberScoopに対して、現在の委員会が子どもオンラインセーフティに焦点を当てることで、創造的な方法で法律を適用する十分な余地があると述べた。
「若い子どもに関連する技術とプライバシー違反を執行することが優先事項であることを見てきたので、それをテイク・イット・ダウン法の執行にうまく転換することは比較的容易だと思う」と彼女は述べた。
ワーンは、規定の執行に対する1年の遅延はプラットフォームが準備できるようにするためであったが、また、FTCは、主要なプライバシー法に関連して提供するリソースと同様に、合法的なコンプライアンスがどのようなものかを企業に公的に示すためにより多くのことができると述べた。
「すべての組織にとって役立つと思われるのは、削除要求に対処しようとする善意の努力が何を構成しているかを説明するガイダンスであると思う」とワーンは述べた。
詐欺師の天国に住む
FTCはまた、オンラインでアメリカ人をターゲットにした犯罪詐欺に対するAIの影響に対処している。
ファーガソンは議員に対して、AIが「詐欺が実行されるメカニズムの実際の洗練さを増やしているだけでなく、詐欺師がターゲットを選択しやすくしている」と述べた。
しかし、FTCの権限は限定的であり、連邦通信委員会（FCC）がほとんどの詐欺を送信する電話およびインターネットプロバイダーを規制している。ファーガソンはまた、多くのコールセンター詐欺が「FTCからの民事執行のリスクを気にしない」海外に位置していることにも言及した。彼は委員会が問題に対処するための追加の立法的権限に開かれていると述べた。
3月の会議でメーダーはAI駆動の詐欺が委員会が「日々」考えているものであり、多くの犯罪スキームの参入障壁を低くしていると述べたと言われた。
「正直に言うと、我々が見た最大の場所は、これらのAIツールの一部が三重請求詐欺に使用されている方法である」と彼は述べた。
昨年、FBIは苦しむ家族を装った音声クローニング詐欺がアメリカ人から約9億ドルをだまし取ったと報告し、この技術は企業や政治指導者との会話でトランプ行政府の高官を装うために使用されている。
マギー・ハッサン上院議員は4つのAI音声クローニング企業—ElevenLabs、LOVO、Speechify、VEEDに書簡を送り、彼らのツールに対応した詐欺を防止または阻止するために準備していたポリシーとプログラムについて尋ねた。
しかしメーダーは、欺瞞的な主張に関しては、AIの使用に関する信頼性を定義することは特に困難だと述べた。多くのディープフェイクは、映画の合成特殊効果にもたらすのと同じ種類の「進んで不信の一時停止」で、多くの人々によってオンラインで見られ、消費されていると彼は述べた。
したがって、FTCは「大雑把な描写」ではなく、ケースバイケースで判定する必要が生じる可能性がある。
「AIの文脈では多くのことが見られると思う。もし何かが本物であることを意図していないことを知っているなら、それは懸念事項ではない」と彼は述べた。「その後の問題は、AI生成されたものではなく、何か本物であり、引用符付き『本当の』ものを見せられると期待されている状況は何か、そしてそれを開示する誤った表現または重大な不作為があったかである。」
翻訳元: https://cyberscoop.com/ftc-ai-portolio-getting-bigger-take-it-down-voice-cloning/
