マイクロソフトのセキュリティ研究者は最近、脅威アクターがAIの活用を強めていることを浮き彫りにする、大量の不正請求書詐欺メールを発見しました。
ビジネスメール詐欺(BEC)は以前から存在する手口ですが、研究者らが指摘しているように、注目すべきは「AIの導入によって脅威アクターがキャンペーンのテンプレートを改良し、受信者に合わせた文面を作成できるようになった」点です。
マイクロソフトによれば、同一のメール内で複数の手口を組み合わせて本物らしく見せかけている点も新しい傾向だといいます。
研究者らは8月上旬、ユーザーを標的とした100万通を超えるメールで構成されるキャンペーンを発見しました。攻撃者は複数のサードパーティサービスを使ってメールを送信し、企業の経営幹部になりすまして、経理部門に対し約5万ドルの不正な送金を指示していました。
攻撃者は、業務プロセスを自動化するクラウド型の企業向けプラットフォームであるServiceNowに宛てて、偽のCEOが送ったとされる転送メールのスレッドを添付することで、メールの信憑性を高めていました(ServiceNowも同時になりすましの対象となっていました)。
この転送メールでは、ServiceNow(こちらもなりすましの対象)から受け取ったとされる請求書を偽のCEOが送付したという、架空のメールのやり取りが捏造されていました。
このキャンペーンの標的の約88%はアメリカに集中していました。
報告書は「単一のソーシャルエンジニアリングの手口に頼る従来型の請求書詐欺とは異なり、今回のキャンペーンは経営幹部へのなりすまし、取引先ブランドの偽装、捏造された請求書、それを裏付けるメールのやり取りを組み合わせ、受信者の疑念を和らげるための一貫したストーリーを作り上げていた」と述べています。
マイクロソフトは、「大量のHTMLコメント、構造化されたセクション表示、極めて均一なテンプレート構成」など、「AI支援によるテンプレート作成と一致する」複数の兆候を発見したとしています。
ただし、マイクロソフトは生成AIの関与を示唆する一方で、「AIがキャンペーンのコンテンツをどの程度生成したかを独自に特定することはできない」とも報告書で述べています。
セキュリティ自動化・対応プラットフォームを手がけるSwimlaneのリード・セキュリティ・オートメーション・アーキテクト、ニック・タウセク氏によれば、攻撃者はAIを利用することで、既存の詐欺の手口を「より高度かつ大規模なものにしている」といいます。
同氏はメールで「対策は、モデルが大量の欺瞞的コンテンツを生成するために悪用され得るという現実を反映したものでなければならず、その点により一層の注意を払う必要がある」と述べています。
「政策立案者もまた、有用なAI機能が攻撃者の手に渡った際、いかに迅速に悪用へと転用され得るかを考慮に入れる必要があります。」
翻訳元: https://therecord.media/invoice-scam-emails-new-features-microsoft-researchers
