セキュリティ
数十年前から存在するメールの小細工が、一部のLLMベースのメールフィルターに今も通用することが判明
最近、企業のメールフィルターをすり抜けてくるスパムが増えたと感じていませんか。攻撃者は「テキストソルティング（text salting）」と呼ばれる手法を使い、一見無害な単語を紛れ込ませることで、一部のAI搭載メールフィルターを混乱させていると、サイバーセキュリティ企業のBarracudaが指摘しています。
このメールセキュリティ企業は木曜日、4月以降、テキストソルティングを用いた小売業を装ったフィッシング攻撃を100万件以上検知したと発表しました。この手法自体はまったく目新しいものではなく、従来型のセキュアメールゲートウェイを何年も欺いてきましたが、Barracudaによれば機械学習やLLMベースのセキュリティツールをも混乱させ得るといいます。
テキストソルティングとは、悪意のあるメールに無作為で害のなさそうな単語を「振りかける」（失礼）ことで、メールスキャンシステムにそのメッセージの「風味」（またしても失礼）に何の異常もないと思い込ませ、受信者への配送を許可させる（食べ物ネタはここまでにしておきます）手口です。
もっとも、メール全体に大量の「塩」めいたテキストをまぶせば、人間の読者はさすがに不審に思うでしょう。そのため攻撃者は通常、Barracudaによれば3種類の「風味」バリエーション（本当にこれで終わりにします、約束します）のいずれか、あるいは複数を組み合わせて、余計な単語を人間の目からは隠しつつ、自動スキャナーには見えるようにしています。
典型的な手法としては、表示領域を人間には見えないほど小さく設定するCSSクロッピング、余計なテキストを画面外に移動させるテキスト操作、そして不審なフィッシング本文の間に、機械には見えるが人間には見えない紛らわしい単語を挿入するゼロフォント手法などが挙げられます。
こうした手法はいずれも、機械にとっては悪意が薄まった意味不明な文字列に見える一方、人間が見た場合は攻撃者の意図どおりのメッセージとして表示される、という結果をもたらします。これにより機械はそのメールを無害だと誤認してしまうのです。
最近のメールセキュリティシステムの多くは、こうした手法にすでに対応しています。新しいツールは、隠されたテキストを除去して読者に本来見えるはずの内容を確認したり、大量の隠しテキストが挿入されている場合に警告を出したりできます。しかしBarracudaによれば、AIはこの流れに追いついていないといいます。
同社はレポートの中で、「テキストソルティングおよび関連手法は、無作為な単語でメールを埋め尽くすことで、AIによるコンテンツ分析エンジンを混乱させ、誤った分類判断へと誘導するために利用され得る」と記しています。まさに2000年代初頭のSEG（セキュアメールゲートウェイ）と同じ手口です。技術の進歩とはいったい何だったのでしょうか。
Barracudaの説明によると、LLMは通常、メールのテキストやソースコードをそのまま平板に処理するよう設計されており、あるテキストがユーザーに見えているか隠されているかを区別する仕組みを備えていません。訓練次第でそうした区別ができるようにはなりますが、それは裏を返せば、大半のツールがデフォルトではそうした処理をしていないことを意味します。
では、企業は従業員に届く「塩味の効いた」スパムの流入を防ぐために何ができるのでしょうか。Barracudaは、キーワード検知のみに頼るのではなく、送信者の評判、認証結果、埋め込みURL、HTMLレンダリング手法、そしてユーザーに見えるコンテンツと隠されたコンテンツの差異などを確認する、多層的なメールセキュリティのアプローチを推奨しています。
そのAIスパムフィルター、いっそのこと手放してみるのも悪くないかもしれません。®
