セキュリティ
フィッシング攻撃者が不可視Unicodeタグ文字の新たな悪用法を発見
詐欺者たちは、通常はAIモデル向けの悪意あるプロンプトを隠すために使われるASCIIスマグリングを、旧来型の攻撃手法であるメールフィッシングに応用する新たな手口を見つけ出しました。
Microsoftは、不可視のUnicodeタグ文字を使った大規模フィッシングキャンペーンを発見しました。このキャンペーンは2月下旬に237万通以上のメッセージでピークを迎え、その後も平日を中心に高水準を維持し、6月中旬にかけて徐々に減少していきました。
「AI時代の攻撃手法への理解が進むにつれ、脅威アクターはそれらをフィッシングやスパムといった従来型の脅威に転用する可能性があります」と、Microsoftの研究者であるNoam Kochavi氏とSarah Wolstencroft氏は木曜日のブログで述べています。「今回の事例は、AIセキュリティ研究の中で生まれた技術が既存の攻撃エコシステムへ素早く波及し得ることを示しており、防御側が新たな脅威を分野横断的な視点で捉える必要性を裏付けています」
ASCIIスマグリングとは、不可視あるいは描画されないUnicode文字を使い、人間には正常に見えるテキストの中にコンテンツを隠す手法で、間接的なプロンプトインジェクション攻撃で好んで用いられます。この手法では、攻撃者がAIアシスタント向けの指示を不可視のUnicode文字に隠し、その悪意あるプロンプトをWebページや文書に埋め込みます。人間の目には見えませんが、モデルにはそれが見えており、テキストとしてデコードしてしまいます。その結果、攻撃者の指示に従ってデータを流出させたり、許可されていない操作を実行したりする可能性があります。
しかし今回Microsoftのセキュリティチームが発見したのは、ASCIIスマグリングをプロンプトインジェクションに使うのではなく、不可視文字――文字と文字の間にUnicodeのタグスペースを挿入する手法――を使って、フィッシングメール内の金銭がらみの誘い文句となる単語を分断し、キーワードマッチングなどのコンテンツフィルタを回避しようとする事例でした。例えば、メール本文に「funding」とそのまま書く代わりに、攻撃者は「fun⟨U+E0020⟩ding」のように書いていたのです。
「フラグが立ったメッセージのサンプルを調べたところ、意外なことにAIアシスタント宛てに密輸されたような指示は一切見つかりませんでした」とKochavi氏とWolstencroft氏は記しています。「その代わりに、不可視のタグ文字が一般的な金融関連のキーワードの中に挿入されており、単語を分断することで、文字列一致やキーワードマッチングによる検知をすり抜けるようになっていました」
MicrosoftはこのASCIIスマグリングの痕跡を2月初旬に初めて検知し、2月8日には約2万1000件のメッセージにフラグを立てました。その翌日には件数が130万件超へと急増しています。これらのメールの大半は、金融をテーマにした約150の送信元ドメインから送られており、その後3か月にわたって続きました。5月15日以降は件数が急減したものの、少なくとも6月中旬までは規模の小さい散発的な増加を伴いながら継続しました。
セキュリティ研究者たちは、平日に大量のメールを送りつけ週末には活動が止まるという、2つの顕著な特徴を指摘しています。
また、このキャンペーンは長期にわたって緩やかに減衰していく傾向も見せました。「激しい第1段階では平日の送信量が100万件から237万件に達し、2月26日にピークを迎えました。その後、件数は徐々に落ち着き、3月下旬までには平日あたりの件数がおよそ80%減少しています」。そして5月15日以降に大きく落ち込み、6月中旬にかけて低い活動水準が続きました。
Microsoftによれば、フィッシングメールにおけるUnicodeタグブロックを防ぐために防御側が取るべき最も重要な対策は、正規化・トークン化のパイプラインがタグ文字を一貫した方法で処理できているかを確認することだといいます。
「キーワード、シグネチャ、正規表現のロジックで評価されるコンテンツは、事前に不可視かつ描画されないUnicodeコードポイントを取り除くか統合しておくべきです。そうすれば、単語の中にそうした文字を挿入してもマッチングを回避できなくなります」と脅威ハンティングチームは記しています。
この同じ対策は、メール内容を取り込むAIアシスタントに対するASCIIスマグリングの脅威を軽減する上でも役立ちます。
Microsoftはまた、行動面の兆候を監視することも提案しています。「観測された活動には特徴的なパターンがありました。頻繁に入れ替わる金融テーマの使い捨てドメインから大量のメールが送られ、平日は稼働・週末は停止という厳格なスケジュールで動いていたのです」とKochavi氏とWolstencroft氏は警告します。「金融をテーマにした送信元に集中してタグブロック文字が急増し、それが週単位でオン・オフを繰り返すというのは、信頼度の高いキャンペーンの兆候といえます」®
