セーフワードとは何か、なぜ必要なのか

AIを使った詐欺は今や、驚くほどリアルになっています。しかし、それを見破るシンプルな方法が一つあります。

AI音声詐欺は、かつてのようなニッチな存在ではなくなりました。この技術は安価で、しかも説得力があるという厄介な組み合わせを備えており、詐欺を働こうとする者たちの参入障壁を大きく下げています。3月に発表されたHiyaのレポートによれば、アメリカ人の4人に1人が過去12カ月以内にディープフェイク音声による電話を受けたと回答しています。さらに4分の1(24%)は、本物との違いを見分けられないと答えています。

同調査では、詐欺師が音声クローンをめぐる攻防で通信キャリアに勝っていると考えるアメリカ人が、その逆を考える人の2倍に上ることも明らかになっています。しかし、これは避けられない結末というわけではありません。技術自体は確かに驚異的ですが、シンプルなある手法によって詐欺師の動きを封じることができます。それが、あらかじめ決めておく「セーフワード」です。

詐欺師はディープフェイクをどう悪用しているのか

私たちは誰もが、身近な人の声なら聞き分けられると思いがちです。しかし、クローン技術はめまいがするほどの速さで進化しています。詐欺師が説得力のあるディープフェイクを作るのに必要なのは、わずか数秒分の音声だけです。そしてその音声は、プライバシー設定でアクセスを制限していなければ、私たちのSNS投稿から簡単に収集されてしまいます。あるいは、仕事関連のコンテンツがネット上に公開されてしまうケースも考えられます。

では、声をクローンした後、詐欺師たちは何をするのでしょうか。

最も代表的な詐欺の一つが、親族に電話をかけ、大切な人が誘拐されたと信じ込ませるためのディープフェイク音声を再生する手口です。こうした「バーチャル誘拐」詐欺は、同じSNSアカウントから収集した個人情報を絡めることで、より真実味を帯びたものに仕立て上げられることがあります。詐欺師はまた、標的本人やその親族のSNSプロフィールを監視し、犯行に最適なタイミングを見計らうこともあります。標的が海外にいて電話の着信をすぐに確認できない状況であれば、詐欺師にとってはより好都合です。

詐欺師にとっての要は、標的の親族を疑心暗鬼にさせ、精神的に追い詰め続けることです。そのため、クローンした声は一度に数秒間だけ使い、すすり泣きの音を混ぜたり、背景に雑音を入れたりして、状況全体をより現実味があり混乱したものに見せかけます。

セーフワードとは何か

こうした詐欺を見破るうえで、最もシンプルでありながら効果的な方法の一つが、家族間であらかじめ「セーフワード」を決めておくことです。これは、家族の誰かが「あなたの声がディープフェイクによってなりすまされたのではないか」と疑った際に尋ねられる、覚えやすい単語やフレーズであるべきです。詐欺師にはそのセーフワードを知る術がないため、家族を騙して身代金を支払わせようとする企みを見破ることができます。

もちろん、覚えやすさと同時に、ありふれていないことも重要です。SNSの投稿やその他のオープンソース・インテリジェンス(OSINT)から推測できるような言葉は避けるべきです。したがって、飼っているペットの名前やお気に入りのスポーツチームといったものは、まず候補から外すべきでしょう。

家族を怖がらせずに導入する方法

この種の取り決めについて家族の合意を得るには、適切なやり方とそうでないやり方があります。家族を不安にさせたくはありませんが、同時に、技術が進歩し、それに付け込もうとする悪意ある人物が実際に存在することを理解してもらう必要があります。

セーフワードを実際に使う機会はまず訪れないだろう、と説明すると受け入れてもらいやすくなるかもしれません。そのうえで、セーフワードを求めるべき具体的な状況をいくつか提案してみましょう。たとえば、あなたそっくりの声の人物から、お金や情報を引き出そうとする不審な迷惑電話がかかってきた場合などです。

セーフワードを忘れてしまったらどうするか

セーフワードを思い出せない場合に備えて、代替手段を用意しておくことが重要です。最も良い対処法は、家族にいったん電話を切ってもらい、アドレス帳に登録されているあなたの番号に改めてかけ直してもらう、あるいはあらかじめ設定しておいたグループを通じてメッセージを送ってもらうよう促すことです。そうすれば、あなたが本当にトラブルに陥っているのかどうかを、その場で確認できます。

あるいは、家族にしか分からない別の質問を試してもらうという方法もあります。ただし、ネットで調べれば分かってしまうような情報であってはいけません。また、少しでもおかしいと感じた場合には、決してお金や個人情報を送らないよう、家族にも徹底しておくべきです。

ディープフェイク詐欺に引っかかってしまった場合の対処法

恥ずかしいと思う必要はありません。ディープフェイク技術は日を追うごとに説得力を増しています。もしあなたや家族が詐欺の被害に遭ってしまった場合は、次のように対応してください。

• 詐欺師とのやり取りを直ちに中止する
• 銀行に連絡して状況を説明し、詐取された資金の凍結や返金を求める手段があるか確認する
• 漏洩した可能性のあるパスワードは、関係するすべてのアカウントで変更する。この機会に二要素認証(2FA)を有効にし、各アカウントに強固で固有のパスワードを設定してパスワードマネージャーに保管することも勧められる
• 関連する証拠(電話番号、録音など)を保全する
• 然るべき当局(例: FTC、FBI IC3)に詐欺を報告する

忘れてはならないのは、詐欺師には恥という概念がないということです。お金を取り戻す、あるいはアカウントを保護すると称して手数料を要求してくる二次的な詐欺師にも警戒してください。彼らの言葉は嘘です。彼らに支払いをすれば、被害額が増えるだけです。

よくある質問(FAQ)

詐欺師はどうやって私の声を手に入れるのか

説得力のある音声クローンを作るのに必要なのは、わずか数秒分の音声だけです。それは仕事の場で話している様子を撮影・録音したものかもしれませんし、SNSで共有した動画や音声コンテンツかもしれません。フォロワーを知り合いだけに限定しておくことは、常に有効な対策です。

セーフワードは本当にディープフェイクを防げるのか

完璧な対策というものはありません。しかし、セーフワードは、偽の誘拐や「バーチャル誘拐」のようなディープフェイク音声詐欺を見破るための、優れた無料の手段です。ディープフェイクの生成自体を阻止することはできませんが、その後に続く詐欺の成功率を下げることはできます。

詐欺師にセーフワードを推測されてしまったらどうするか

何事も絶対とは言い切れません。しかし、家族以外には何の意味も持たない、ランダムでありふれていない単語やフレーズを選んでおけば、推測されるのは極めて困難になるはずです。とはいえ、そうした事態に備えて、電話をかけ直すことを取り決めておくなど、バックアッププランを用意しておくことも有用です。

詐欺に遭ってしまった場合はどうすればよいか

詐欺師とのやり取りをすべて中止してください。銀行に連絡して事態を通知し、できる限り多くの証拠を保全してください。必要であればパスワードを変更し、然るべき当局に詐欺を報告してください。