eSecurity Planet のコンテンツおよび製品の推奨情報は、編集上の独立性を保っています。当サイトはパートナーへのリンクをクリックしていただくことで収益を得る場合があります。 詳しくはこちら
Barracudaは、Black Hat USA 2026向けの調査の一環として、攻撃者がAI搭載のメールアシスタントを悪用し、侵害した従業員アカウントを本格的なBEC(ビジネスメール詐欺)攻撃へとエスカレートさせる手口を実証するPoCを公開しました。
研究者らによると、最大のリスクはAIアシスタントが偵察・フィッシング・詐欺行為を加速させ、侵害済みアカウントの悪用を一段と効率化してしまう点にあるといいます。
今回の攻撃ではMicrosoft Copilotが使用されましたが、Barracudaはこの手法が他のAIメールアシスタントにも当てはまると指摘しています。
研究者らは、たった1つの従業員アカウントを侵害するところから始まり、最小限の手作業でCEOになりすまし、247,500ドルの電信送金を不正に振り替えるまでの一連の流れを示しました。
Barracudaの調査の要点
- Barracudaは、AIメールアシスタントが侵害済みアカウントを迅速にBEC(ビジネスメール詐欺)攻撃へとエスカレートさせ得ることを実証
- Microsoft Copilotを用い、攻撃者がCEOになりすまして247,500ドルの電信送金を不正に振り替える手口を提示
- AIアシスタントが、攻撃者がすでに保持していたアクセス権を悪用した偵察・フィッシング・持続的アクセスの確保・詐欺行為を加速
- 正規の侵害済みアカウントを起点とする攻撃は、従来のメールセキュリティでは検知が困難
- 組織は、AI利用アカウントの監視、受信トレイルール悪用の検知、金融取引の独立した検証を実施すべき
AIメールアシスタントが侵害後の攻撃を加速
今回のPoCは、攻撃者が従業員のメールアカウントへのアクセスを取得したところから始まりました。
攻撃者はCopilotを使い、侵害した受信トレイを短時間で分析することで、組織内の人間関係や役員、金融関連のやり取りなど、さらなる侵害の標的となり得る価値の高い情報を特定しました。
持続的なアクセスを維持するため、攻撃者はCopilotに指示を出し、サインイン通知を「削除済みアイテム」フォルダーへ転送する受信トレイルールを作成させました。これにより、被害者は不審なログインに関する警告に気づけなくなりました。
Barracudaは、受信トレイルールの悪用はすでにMicrosoft 365侵害においてよく見られる手口だとしつつも、AIアシスタントの利用によってこうしたルールの設定に必要な時間と専門知識が大幅に削減されると指摘しています。
AI生成フィッシングがCEOの侵害を招く
攻撃者はCEOを標的として特定した後、Copilotに指示を出し、既存のメールのやり取りから収集した情報をもとに、侵害した従業員の文体を模したフィッシングメールを作成させました。
このフィッシングメールは正規の社内アカウントから送信され、かつ当該従業員の通常の文体を反映していたため、信頼できるものに見えました。
CEOは悪意ある請求書リンクをクリックしてしまい、これはAitM(Adversary-in-the-Middle、中間者攻撃)用のプロキシを経由するものでした。これにより攻撃者はCEOの認証済みセッショントークンを窃取し、MFAを回避することができました。
CEOのメールボックスへの侵入後、攻撃者は同様の受信トレイルールの手口を繰り返してセキュリティ通知を抑制した上で、Copilotを使って直近の金融関連のやり取りを要約させました。
たった一度のプロンプトで、請求書や承認待ちの電信送金、その他の機密性の高い金融関連のやり取りに関する概要が生成されました。
その中には、最終承認待ちの247,500ドルの電信送金も含まれていました。
次に攻撃者はCopilotを使い、CEOのアカウントから送信する体裁で、支払い処理前に送金先の銀行口座情報を更新するよう経理チームに依頼するメールを作成させました。
この依頼はCEOの正規のメールボックスから送信され、進行中の取引に言及しており、かつ当該役員の文体とも一致していたため、従来のメールセキュリティ対策がこのメッセージを不審なものとして検知する根拠はほとんどありませんでした。
経理チームは銀行口座情報を更新してしまい、その結果、支払いは攻撃者が管理する口座へと不正に振り替えられました。
攻撃者による痕跡の隠蔽方法
この不正行為を隠すため、攻撃者は経理チームからの返信を攻撃者が管理するメールアドレスへ転送しつつ、CEOには見えないようにする別の転送ルールを作成しました。
その後Copilotを使って不正取引に関連するメールを速やかに探し出して削除し、侵害の痕跡を消し去る手助けとしました。
Barracudaは、AIアシスタント自体が新たな権限をもたらすわけではないものの、攻撃者が侵害済みアカウントを悪用する速度と効果を大幅に高めてしまうと結論付けています。
アカウントが一度侵害されると、AIアシスタントは攻撃者による標的の特定、機密データの洗い出し、侵害後の活動の加速を助けてしまいます。
組織がAI利用メールアカウントを保護する方法
研究者らは、AI利用アカウントにおける侵害後の活動の監視、特権アカウントの保護、不審な受信トレイルールの検知、そして金融取引における二次的な検証の実施を推奨しています。
さらに組織は、フィッシング耐性のあるMFAの導入、AIアシスタントに対する最小権限アクセス制御、そしてアカウント侵害を示唆し得る通常とは異なるAI活用の兆候に対する継続的な監視を検討すべきです。
AIを活用した攻撃が今後さらに広がっていく中、ゼロトラストを導入することは、侵害されたアカウントによる被害の範囲を抑え、水平展開(ラテラルムーブメント)を減らす上で組織の助けとなるでしょう。
翻訳元: https://www.esecurityplanet.com/threats/black-hat-2026-barracuda-details-ai-powered-bec-attack/
