新しい法案がAIを使った詐欺師を標的に

下院で導入された新たな超党派法案は、AIツールを利用した詐欺やなりすましの刑事罰を引き上げるものです。

AI詐欺抑止法は、カリフォルニア州選出のテッド・リュー議員（民主党）とメリーランド州選出のニール・ダン議員（共和党）によって提出され、AIツールを使って信憑性の高い偽の音声、映像、テキストを作成し詐欺を行う者に対して、刑事罰の上限や懲役期間を引き上げる内容となっています。

例えば、郵便詐欺、電信詐欺、銀行詐欺、マネーロンダリングに対する罰金の上限は100万～200万ドルに引き上げられ、AI支援ツールの使用には最長20～30年の懲役刑が科される旨が新たに明記されています。

一方、AIを使って政府関係者になりすます詐欺師には、最大100万ドルの罰金と3年の懲役が科されます。

「一般市民も政府関係者も、AIを使った詐欺やスキャムの被害者となっており、金融詐欺の被害者となった人々にとっては破滅的であり、悪意ある者が政府関係者になりすました場合、国家安全保障にとっても壊滅的な結果となりかねません」とリュー議員は声明で述べています。

この法案は、過去1年間に発生した一連の注目事件を受けて提出されたもので、正体不明の人物がAIの音声や映像ツールを利用して、米国政府の高官と連絡を取ったり、なりすましたりする事例が相次いでいます。

5月には、ウォール・ストリート・ジャーナルが、連邦当局が上院議員、州知事、ビジネスリーダー、その他のVIPに対し、ホワイトハウス首席補佐官スージー・ワイルズの声と番号を使ってなりすました偽の電話やテキストメッセージを送った事件を捜査していると報じました。ワイルズ氏は自身の電話がハッキングされたと述べており、ドナルド・トランプ大統領も後に公に「電話が侵害され、彼女になりすまそうとした」と記者団に語りました。受信者の中には、声がAI生成のように聞こえたと述べる人もいました。

その2か月も経たないうちに、国務省は警告を発し、誰かが国務長官マルコ・ルビオになりすましてボイスメール、テキスト、Signalメッセージを送っていると外交官に伝えました。これらのメッセージは少なくとも3人の外国大臣、米上院議員、州知事に送られ、詐欺の疑いがあるとされました。ルビオ氏は今年初めにもディープフェイク被害に遭い、CNNでイーロン・マスクにウクライナへのStarlinkアクセス遮断を説得すると誓ったかのように見せかけられました。

他にも、歌手のテイラー・スウィフトのような著名人が、その容姿や画像を詐欺やポルノ、政治攻撃に悪用される被害に遭っており、元大統領ジョー・バイデンもAIによって声を複製され、2024年ニューハンプシャー州大統領予備選挙を前に、対立候補ディーン・フィリップス陣営の民主党コンサルタントによる計画で利用されました。