スキャマーがOnlyFansユーザーをディープフェイクで標的に

OnlyFansのクリエイターたちは、自身のアダルト動画をオンラインに投稿することに慣れています。しかし、もし誰かがその画像を勝手に使い、詐欺に悪用したらどうなるでしょうか。今週、USA Todayは、犯罪者がAIツールを使ってOnlyFansクリエイターになりすましている実態を明らかにしました。犯人たちはディープフェイクコンテンツを使い、実在のモデルのファンをライブチャットの偽の約束で誘い込み、フォロワーが前払いした後に姿を消してしまうのです。

なりすまし詐欺師が餌に食いつかせる手口

これはキャットフィッシングと呼ばれる手法の一種で、攻撃者がオンライン上で他人になりすまし、下心を持ってロマンスや性的なやり取りを持ちかけるものです。今回のケースでは、詐欺師たちがTikTokなどのプラットフォームに偽アカウントを作成し、実在するクリエイターの写真から拝借した素材に合成音声を組み合わせて使用しています。これを使って視聴者をSnapchatなどのサービス上でのダイレクトメッセージのやり取りへと誘導します。

そこまで誘導されると、「クリエイター」は限定コンテンツと引き換えにCash Appでの支払いを求めてきます。Cash Appは友人同士のカジュアルな送金を目的とした個人間決済サービスであり、商取引向けではありません。送金は即座に処理され、数秒以内に受取人の残高に反映されます。一度送金してしまうと、取り戻すのは非常に困難です。

この手軽な仕組みこそが、まさに悪用される理由です。ファンが支払いを済ませた途端、犯人は相手をブロックして姿を消してしまいます。

法律が実際のサーバーに届かない理由

立法者たちは、複数の州レベルのディープフェイク規制法案でこの問題に取り組んでいます。連邦レベルでは、Take It Down Act(テイク・イット・ダウン法)がAI生成画像を含む非同意の性的コンテンツを犯罪と定め、迅速なプラットフォームでの削除を義務付けています。EUでは、AI Act(AI法)が画像生成にAIを使用する者に対し、その使用を公に開示するよう義務付けています。

それでも、なぜこうした被害は今なお発生しているのでしょうか。

問題は、国内法が国内のプラットフォームにしか適用されない点にあります。盗用された素材の多くは海外のホスティングサービス上に置かれており、規制が及びにくいのです。

たとえ法律を普遍的に執行できたとしても、それだけでは解決しないかもしれません。今年実施された3つの実験で、ブリストル大学の研究者たちは、参加者の多くが偽物だと知らされた後もディープフェイクコンテンツを信用してしまうことを明らかにしています。

本当に役立つ対策とは

この種の詐欺には2種類の被害者がいます。詐欺で金銭を失うファンと、クリエイター自身です。後者は本来ファンから得られたはずの収入を失うだけでなく、騙されたと感じた不満げなフォロワーから報復を受けるリスクも背負うことになります。

あるクリエイター、Jessieanna Campbell氏はUSA Todayの取材に対し、自分がお金を騙し取ったと誤解した困惑気味のファンから苦情を受けたと語っています。「『ねえ、なんで私の150ドルを取っておいて、ブロックしたの?』みたいなメッセージが常に届くんです。でも私は『何のことを言っているの?』という感じなんです」

USA Todayはまた、怒ったファンに自宅を訪ねられた経験を持つクリエイターにも取材しており、彼女は今では外出するのが怖くなることさえあるといいます。

一部のクリエイターは、自ら問題を解決しようと民間のコンテンツ削除サービスを利用しています。また、こうした偽アカウントについて注意を呼びかける公共広告を投稿している人もいます。しかし最終的には、ファン自身がその警告に耳を傾けるかどうかにかかっています。

もしサードパーティのプラットフォーム上で「クリエイター」を名乗る人物から連絡が来たら、動画をよく確認してください。ディープフェイクにはしばしば粗が見られます。USA Todayの報道によると、クリエイターのElaina St. James氏になりすましたTikTok動画は、静止画をアニメーション化し声をクローンして作られたものでしたが、歯が歪んでいたり眉が不自然に固まっていたりしたそうです。あらゆる種類のディープフェイクを見分けるためのガイドもぜひご覧ください。

結局のところ大切なのは常識的な判断です。誰かがダイレクトメッセージのプラットフォームへ誘導し、限定コンテンツと引き換えにお金を要求してきたら、いったん立ち止まって考えてください。本物かどうかは、認証済みアカウントを通じてクリエイター本人に確認しましょう。

スキャマーは、あなたをハッキングする必要すらありません。あなたに一度クリックさせるだけでいいのです。 

Malwarebytes Identity Theft Protectionなら、問題化する前に不審な活動を検知できます。