Coinbaseは、AIで生成したイーロン・マスク氏のディープフェイクを使って偽のプレゼント企画を宣伝していた詐欺師に対し、470万ドル相当の暗号資産の送金をブロックしたと明らかにしました。詐欺は、50万人以上が視聴したTeslaのライブ配信中に仕掛けられたものです。
このディープフェイクが使われたのは、Teslaの「空飛ぶ車」のデモ中でした。詐欺師はこのイベントを中継しているように見せかけた偽のYouTubeライブ配信を作成していました。
偽の配信には、AIで生成したマスク氏の映像、暗号資産のウォレットアドレス、QRコードが表示されていました。視聴者に対しては、送金した暗号資産が2倍になると約束していました。
Coinbaseによると、約2時間のあいだに数百人の顧客が詐欺師へ数百万ドルを送金しようとしました。この中には、同取引所を長く利用しているユーザーも多数含まれていました。
しかし同社は、AIを活用した不正対策システムがこの詐欺を検知し、送金未遂のうち約91%にあたる470万ドルをブロックしたとしています。
アカウントの乗っ取りや認証情報の窃取を伴う従来の暗号資産盗難とは異なり、今回の被害者はライブ配信が本物だと信じ、自らの意思で暗号資産を送金しました。
Coinbaseは、こうした詐欺では取引が正規のアカウント所有者によって作成・承認されるため、検知が難しいと説明しています。
「ほとんどの不正対策は、顧客が許可していない行動を見つけるように作られています」と、Coinbaseは説明しています。
「しかし、今回は違いました。顧客はログインし、自ら確定ボタンを押し、これを千載一遇のチャンスだと信じていたのです」
AIエージェントが介入して送金を阻止
Coinbaseによると、同社の詐欺防止システムは機械学習モデルで暗号資産の出金をリアルタイムに分析します。プレゼント企画詐欺、ブランドのなりすまし、新規作成されたウォレットアドレスに関連する不審な動きを特定する仕組みです。
不審な送金を検知すると、AIエージェントが顧客と短い会話を交わします。疑われる詐欺の特徴を説明し、顧客が詐欺に気づけるよう質問を投げかけます。
システムはエージェントの回答を顧客に提示する前に、その信頼度スコアも算出します。これにより、追加の安全対策が必要になる場面を判断できます。
Coinbaseによると、このAIエージェントは今回の手口を見るのが初めてでした。それでも、暗号資産が増えるという約束、ライブイベントに絡めた時間的プレッシャー、取り消せない送金といった、詐欺の根本的な手法は見抜いたといいます。
同社は、検知から介入までの一連の処理が人手を介さず自動で行われたと説明しています。
「注目すべきは、エージェントがこの詐欺を見たことがなかった点です。製品発表のライブ配信に絡めたディープフェイクのプレゼント企画は、学習データに含まれていませんでした」とCoinbaseは述べています。
BleepingComputerはCoinbaseに対し、詐欺師に届いた送金の件数と盗まれた暗号資産の額を問い合わせましたが、現時点で回答は得られていません。
イーロン・マスク氏とその関連企業は、以前から暗号資産詐欺の格好のおとりとして利用されてきました。詐欺師は認証済みTwitterアカウントを乗っ取ったり、偽のプレゼント企画への招待をメールで送りつけたり、TikTokを偽の宣伝で埋め尽くしたりしてきました。
詐欺師は、不正な暗号資産投資プラットフォームを宣伝するためにマスク氏のディープフェイク動画も利用しています。また、認証済みTwitterアカウントを乗っ取った別のキャンペーンでは、わずか1週間で58万ドル以上の暗号資産が盗まれました。
この種の詐欺の被害を避けるには、ライブ配信や動画内に表示されるQRコードを信用せず、暗号資産に関するキャンペーンを公式サイトや公式SNSアカウントで自ら確認することが重要です。