脅威アクター、わずか3日間で100万通のパーソナライズされた詐欺メールを生成

人工知能(AI)により、脅威アクターは従来の大量メール送信では到底実現できなかったレベルまでパーソナライズされた詐欺メールを、途方もない量で送信できるようになっています。

先月、Microsoftの研究者らは、身元不明の脅威アクターが100万通を超えるメールをわずか3日間で送信したフィッシングキャンペーンを追跡しました。これほどの量のコンテンツを扱いながらも、この脅威アクターは関連する買掛金部門を的確に標的とし、標的企業の経営陣の実名を使って各メッセージを軽くパーソナライズすることに成功しています。これはおそらく、本格的なAIの支援によるものと見られます。他にもいくつかの工夫が加えられており、一般的な自動決済機関(ACH)詐欺よりもはるかに説得力の高いメールに仕上げられていました。

パーソナライズされた大量フィッシング

これらのメールの基本的な内容は、被害者企業がエンタープライズクラウドサービス企業ServiceNowに対し、年間サブスクリプション料金として5万ドル弱を支払うべきだ、というものでした。添付された請求書は詳細に作り込まれており、きりの良い数字にならない、いかにも本物らしい明細項目や金額が記載されているほか、なりすまし対象企業の視覚要素やブランディングも忠実に再現されていました。

巧妙なひねりとして、攻撃者は各フィッシングメールと請求書を、偽造した「スレッド」で包み込んでいました。被害者がメールを受け取る前に交わされたように見せかけた、被害者企業の経営幹部とServiceNowの社長との短いやり取りを捏造していたのです。そのやり取りの中で、経営幹部は財務部門にいる被害者に請求書を直接転送するよう、ServiceNow側の担当者に依頼する体裁になっていました。

これらのやり取りにさらに信憑性を持たせるため、攻撃者は被害者組織のCEO、CFO、社長といった人物を特定し、フィッシングメールの署名欄に組み込んでいました。この作業はチャットボットに任せれば容易にこなせるものだったはずです。

「被害者組織に関する情報収集は、今やわずか数分で済んでしまいます」と、Barracuda NetworksのCTOオフィスでAI・自動化担当ディレクターを務めるMerium Khalid氏は語ります。「AIは企業のウェブサイト、経営陣情報、従業員の役職、プレスリリースといった、インターネット上で公開されている組織に関する情報を高速に処理し、その文脈を利用してより説得力のあるなりすましメールを作成できます」

同氏はさらに、攻撃者は情報収集、パーソナライズされたコンテンツの生成、さまざまな標的組織に使い回せるテンプレートの作成など、キャンペーンの各工程ごとに複数のAI駆動プロセスを構築できると指摘します。実際、Microsoftはこの大量メールキャンペーンの背後にいる脅威アクターが、特定の被害者向けにメールテンプレートをパーソナライズする際にAIを利用していたことを示すいくつかの痕跡を発見しています。

最終的な結果は、数年前であれば実現不可能だったであろうレベルの、比較的説得力のある大量フィッシングとなりました。かつてのフィッシング攻撃者は、画一的な一斉送信メールか、あるいは限られた標的向けのパーソナライズメールのいずれかしか送れませんでした。

今回、攻撃者は8月3日から8月5日にかけての約48時間で、受信者ごとにパーソナライズされたメールを100万通以上生成しました。これらのメールはIT、消費財、不動産といった業種を中心に、さまざまな業界の組織へ一斉送信され、その87.7%が米国内の組織を標的としていました。

AIがもたらす最大の脅威(今のところ)

この夏、無防備な企業に容赦なく襲いかかる暴走したAIエージェントの大波といった、めまいがするほど未来的な見出しが世間を賑わせましたが、専門家たちは、AIがこれまでに実証してきた最大の脅威は、あくまでも昔ながらのサイバー攻撃を強化する能力にあると強調しています。

「敵対的エージェントやプロンプトインジェクションといった、AIネイティブな新たな脅威は新しいリスクを生み出しますが、フィッシングやなりすまし、詐欺にはすでに実証済みの成功パターンが存在します」と、Doppelで脅威インテリジェンス担当バイスプレジデント兼グローバル責任者を務めるJoshua Bartolomie氏はDark Readingに語ります。「AIはこうした攻撃をより高速に、より安価に、よりパーソナライズされた形で、そしてより容易にスケールさせられるものに変えています。例えば、複数の経路にまたがってほぼ同時に展開されるなりすましキャンペーンは、この2年間でおよそ7倍に増加しました。目先の大きなリスクは、必ずしも新たな攻撃手法そのものではなく、すでに効果が実証された攻撃手法の『工業化』にあるのです」

AIは新たな攻撃を生み出すというよりも、既存の攻撃手法を強化する方向に作用しているため、長年確立されてきたサイバー防御のベストプラクティスは依然として有効です。Microsoftはブログ投稿の中で、企業向けの推奨事項としてメール認証・なりすまし対策の適切な設定、メールセキュリティフィルターの導入、拡張検知・対応(XDR)の実装などを挙げていますが、昨今のマーケティングキャンペーンでよく謳われるような最先端のAI駆動型サイバー防御についてはほとんど触れていません。

Khalid氏は、企業に対し、地道なサイバーセキュリティの基本対策と最先端ツールへの投資の両方をバランスよく行うよう推奨しています。「今回のキャンペーンはその好例です」と同氏は述べます。標準的なメールフィルターでも受信メール内の悪意ある痕跡を検出できますが、AI駆動型のメール保護であれば、そうしたシグナルを機械並みの速度で分析できるからです。

「AIは基本的なセキュリティ対策の代替にはなりません」と同氏は言います。「結局のところ、最良の防御とは多層的なものです。優れたサイバー衛生とプロセス、教育の行き届いた従業員、そして攻撃者がますます高速化させている攻撃と同じ速度で検知・対応できるAI駆動型のセキュリティ技術、これらすべてが組み合わさって初めて実現するのです」