- AI生成コードがフィッシング攻撃に使用され、Microsoft Defenderがブロック
- 攻撃者はPDFに偽装したSVGファイルを使用し、内部にビジネス関連の隠しコードを仕込んでいた
- Security Copilotは、冗長な識別子や一般的なコメントなど、AI特有の特徴を検出
AIコードは現在、さまざまな業界で幅広いタスクに利用されており、サイバーセキュリティ分野でも、セキュリティチームと攻撃者の双方が大規模言語モデルを活用するケースが増えています。
防御側はAIを活用して大規模な脅威の検出や対応を行う一方、攻撃者はフィッシングの誘導文作成、難読化コードの生成、悪意あるペイロードの偽装などにAIを試験的に利用しています。
Microsoftの脅威インテリジェンスチームは、最近、AI生成コードを利用しSVGファイル内にペイロードを隠したと考えられるフィッシング攻撃を検知・阻止しました。
洗練されているが実用的ではない
この攻撃では、侵害された中小企業のメールアカウントが利用され、実際のターゲットはBCC欄に隠されたまま、自分宛てのメッセージが送信されました。添付ファイルはPDFに見せかけた名前でしたが、実際にはスクリプト可能なSVGコンテンツが含まれていました。
SVGファイルには、ビジネスダッシュボードのように見せかけた隠し要素が含まれており、内部のスクリプトがビジネス関連の単語をコード化して隠されたペイロードを露出させる仕組みでした。
このファイルを開くと、ユーザーはCAPTCHAゲートにリダイレクトされます。これは、偽のサインインページに誘導し認証情報を盗み取るためによく使われるソーシャルエンジニアリング手法です。
難読化には暗号技術ではなく、ビジネス用語の連結や定型的なコードパターンが利用されていました。
Security Copilotはファイルを分析し、長い説明的な識別子、繰り返しの多いモジュール構造、一般的なコメント、XML宣言とCDATAの異常な組み合わせなど、LLM（大規模言語モデル）出力と一致する特徴を検出しました。
これらの特徴により、コードは表面的には洗練されているように見えますが実用的ではなく、AIによって生成された可能性が高いと分析者は判断しました。
研究者たちはMicrosoft Defender for Office 365のAI搭載ツールを活用し、攻撃者が隠しきれなかった手がかりを組み合わせて特定しました。
システムは、自分宛ての異常なメールパターン、PDFに偽装した奇妙なSVGファイル、既知のフィッシングサイトへのリダイレクト、ファイル内の隠しコード、フィッシングページ上の追跡手法などを検出しました。
このインシデントは限定的で容易にブロックされ、主に米国の組織が標的となりましたが、Microsoftは、攻撃者がAIを活用してますます巧妙な誘導や複雑なペイロードを作成しようと実験していることを示す事例だと指摘しています。
