- FBIは、犯罪者が誘拐および恐喝詐欺でGenAIディープフェイクを使用していると警告
- 攻撃者はソーシャルメディア上の画像から偽の「生存証明」動画を生成し、身代金を要求
- 市民はオンラインでの露出を制限し、家族の合言葉を決め、支払い前に家族の安否を確認するよう助言されている
ハッカーは生成AI（Generative Artificial Intelligence／GenAI）を使って、誘拐や恐喝詐欺で「生存証明」として利用される、もっともらしいディープフェイク動画を作成している。
これは、米連邦捜査局（FBI）が最近、新たな公共サービス告知（PSA）を発表し、市民にこの手口にだまされないよう警告したことによるものだ。
この詐欺の仕組みはこうだ。犯罪者は標的を選び、ソーシャルメディアやその他の情報源から画像や動画をかき集める。十分な情報が集まると、それらをAIツールに投入し、標的の家族や親しい人が誘拐されたかのように見せる動画や画像を作成する。そのうえで被害者に連絡を取り、人質を「解放」する見返りとして、即時の身代金支払いを要求する。
防御するには
この詐欺はそれほど広く蔓延しているわけではないかもしれないが、しばらく前から存在している。The Guardianは2年前にこの手口について報じている。それでも、AIが刻一刻と高性能になるにつれ、こうした詐欺がより一般的になっていると考えるのが妥当であり、今回のFBIの対応につながっている。
FBIはまた、これらの写真や動画は完璧ではないとも述べている。ピクセル単位で注意深く見れば、偽物だと見抜くことができる。しかし、犯罪者もそれを理解しているため、送信するメッセージには時間制限を設け、詳細な分析が行われる前に閲覧不能になるようにしていることが多いという。
「こうした不正確さの例としては、タトゥーや傷跡が欠落していることや、体のプロポーションが不自然であることなどが挙げられます」とPSAには記されている。「犯罪者は、被害者が画像を分析できる時間を制限するため、タイマー付きメッセージ機能を使ってこれらの写真を送信することがあります。」
こうした攻撃から身を守るために、FBIはまず、市民が自らのプライバシーにより注意を払うことを提案している。具体的には、オンラインに写真を投稿する際や、旅行中に見知らぬ人に個人情報を提供する際などだ。さらに、家族だけが知っている合言葉を決めておくこと、そして何よりも重要なのは、支払いを行う前に、家族や大切な人と直接連絡を取るよう試みることだとしている。
