「ScamBuster」でメール詐欺師を返り討ちに

メールを利用する人は誰でも、一度は悪意あるフィッシングメールを受け取り、金銭をだまし取ろうとする攻撃にさらされた経験があるでしょう。中には知らずに攻撃者とやり取りしてしまい、ソーシャルエンジニアリングの手口に引っかかった人もいます。

こうした悪意あるメールのほとんどは、ユーザー自身か、脅威を検知・排除するために設計されたセキュリティソフトウェアによって削除されるのが実情です。しかし、もし組織側が形勢を逆転させ、人工知能(AI)を使って被害者になりすまし、大規模に詐欺師をだまし返すことができたらどうなるでしょうか。Filigranのプリンシパルソフトウェアエンジニアであるローラン・ジョヴァンノーニ氏が「ScamBuster」と名付けたソフトウェアソリューションで実現しようとしているのは、まさにそれです。

フィッシング攻撃の被害に遭った友人たちの話に触発され、ジョヴァンノーニ氏はフランスの工学系大学エコール・ポリテクニークに在学中、卒業論文の一環としてScamBusterを開発しました。同氏は2025年11月から本番稼働しているこのシステムを、8月にラスベガスで開催されるBlack Hat USA 2026で正式に発表する予定です。

詐欺師をだます

多くの人と同様、企業のITチームも詐欺メールを削除する傾向がありますが、それでは問題は解決しないとジョヴァンノーニ氏はDark Reading誌に語っています。メールを受け取った本人がだまされなかったとしても、そのメールが別の誰かをだます可能性は残りますし、攻撃者に責任を問うこともできないからです。

ScamBusterが目指しているのは、詐欺メールを即座に削除するのではなく、AIを活用した人間のペルソナを使って詐欺師に返信し、攻撃がうまくいっていると詐欺師に思わせることです。このペルソナは、高齢の未亡人、中小企業経営者、多忙な役員、あるいは勝手が分からない旅行者などに設定できる、と同氏は説明します。

最終的な目標は、攻撃者とその背後にあるインフラに関する手がかりを収集することです。財務情報などのデータを集めることで、組織が同一または関連する攻撃者による他の詐欺を特定する手助けとなるほか、サイバー犯罪を捜査する関係当局への情報提供にもつながります。

ScamBusterの仕組み

ScamBusterは受信専用のシステムとして設計されている、とジョヴァンノーニ氏はDark Reading誌に説明します。「このシステムが自分から誰かに連絡することは一切ありません」と同氏は述べます。「届いたメールに返信するだけです。このルールは単なる運用方針ではなく、アーキテクチャそのものに組み込まれています」

ScamBusterが詐欺メールを受信して攻撃者との「会話」を開始すると、適切なペルソナが処理を引き継ぎ、「詐欺師は狙った相手を見つけたと思い込みますが、実際は違います」とジョヴァンノーニ氏は説明します。

攻撃者がやり取りしている「相手」の正体は、実は情報収集を目的としたインテリジェントシステムです。同システムは収集した情報を「インジケーター」としてグループ化し、セキュリティ研究者や法執行機関が詐欺の実行者を特定できるようにします。

「詐欺師は自ら自分のインフラを差し出しているようなものです」とジョヴァンノーニ氏は言います。「振込先の銀行口座、電話番号、資金の流れなどを引き出すことができ、システムはそれらすべてを抽出して構造化されたインテリジェンスに変換します」

サイバー犯罪者のプロファイル作成

この「会話」は、同一の口座を共有する別々の詐欺事案をアナリストが結び付ける助けにもなり、サイバー犯罪ビジネスの全体像を描き出すことで、捜査当局がさらなる対応を取れるようにします。

ScamBusterは、金融機関の国際銀行口座番号(IBAN)、決済ドメイン、電話番号の接頭番号といったインジケーターを識別し、それらを紐づけて、必要に応じてクラスタリングすることでサイバー犯罪者のプロファイルを構築します。

「一見すると何十件もの別々の詐欺メールに見えても、実は同じ数個の番号や同じ決済ドメインにたどり着くことがあります」とジョヴァンノーニ氏は言います。この場合、そのインジケーターのリストが「捜査の出発点」となり、組織、セキュリティ研究者、あるいは法執行機関がそれを活用できます。

「ScamBusterの目的は、この情報を引き出すことです」とジョヴァンノーニ氏は言います。「詐欺師が『支払ってください』と言う瞬間を待ち構えています」。その後、システムは詐欺師からデータを取得し、構造化した上で、セキュリティツールや脅威インテリジェンスチームが読み取れる標準フォーマット、すなわちSTIX 2.1とMISPでエクスポートします。

自己学習による成果の改善

ScamBusterは、システムと攻撃者との会話に説得力を持たせ、攻撃者の心理的な手口を逆に利用するよう設計されています。また、AIをその場で学習させることで、詐欺師に財務情報などの、捜査員が追跡可能な情報を吐き出させるうえで、どの会話パターンがより効果的かを見極めます。

「ScamBusterは、どのペルソナがどの種類の詐欺に対して効果的かを学習し、自らアプローチを変えていきます」とジョヴァンノーニ氏は説明します。「稼働期間が長くなるほど、精度は上がっていきます」

攻撃者との接触や情報収集に成功する確率は、最も優れたペルソナと最も劣るペルソナとで5.5倍の差があるとジョヴァンノーニ氏は言います。つまり、この学習が、組織のメールシステムに導入した際のScamBusterの長期的な成功度合いを左右する重要な要素だということです。

「これは些細なチューニングの話ではありません」とジョヴァンノーニ氏は説明します。「5つのインジケーターを引き出せる会話と、ほとんど何も引き出せない会話との違いを生むのです」

AIに依存しない設計

内部では、複数の大規模言語モデル(LLM)エージェントが会話を進行させ、詐欺師が明かした情報をスコアリングし、構造化された脅威インテリジェンスとして保存します。そして、この情報をもとに次のやり取りで使用するペルソナを選択します。

ジョヴァンノーニ氏は、小規模で安価な商用モデル(今回のケースではGPT-4o-mini)を使うことで、ScamBusterを低コストに抑えられるよう設計しました。運用コストは「ほぼゼロ」に近いと同氏は述べています。

ただし、このシステムは特定のAIモデルに限定されているわけではなく、運用者が目的に最も適したモデルを選択できると同氏は言います。「このシステムは完全にモデルに依存しません」とジョヴァンノーニ氏は言います。「導入する際は、メールを設定して、お好みのLLM、たとえばOpenAIやAnthropic、Llama、あるいはオープンソースのLLMのトークンを設定するだけで済みます」

ScamBusterの本番用コードベース全体は、8月5日水曜日にBlack HatにてMITオープンソースライセンスの下で公開される予定です。ジョヴァンノーニ氏はまた、ビッシングやスミッシング攻撃に対応するためのシステムアップデートにも取り組んでいると述べています。