「ファントム・スクワッティング」:AIが引き起こす新たなサプライチェーン脅威

サイバー犯罪者たちは、「ファントム・スクワッティング」と呼ばれる大規模言語モデル(LLM)発の新たな攻撃手法を悪用し、ソフトウェアサプライチェーンを脅かしています。この手口では、正規ブランドに関連付けられているように見えるものの実際には存在しないドメインを登録し、AIシステムが生成するトラフィックを横取りします。実際にある攻撃者は、研究者が事前に特定していたリスクの高いファントムドメインを標的として、AIコーディングアシスタントを使いフィッシングキット一式を丸ごと構築していました。

LLMは正規ブランドのWebドメインを「ハルシネーション」(幻覚)として一貫して生成してしまう傾向があり、これがサイバー犯罪者にこうしたドメインを悪用する隙を与えています。これは、Palo Alto Networks傘下のUnit 42が火曜日に発表した調査で明らかになりました。研究者らは、2種類の異なるLLMモデルの複数の設定を通じて、913のグローバルブランドを対象に685,339件のURLクエリを分析したところ、25万件のハルシネーション由来のドメインが生成されました。研究者らによれば、これらは各ブランドに関連する確認済みの悪意あるURL13,220件超と併存しているとのことです。

Unit 42は、Webドメインのハルシネーションを、LLMがレジストリに存在しないソフトウェアのパッケージ名を頻繁に幻覚的に生成する現象になぞらえています。Unit 42の研究者らはレポートの中で、「LLMがライブラリ名を幻覚的に生成することがあるのと同様に、対象ブランドのWebポータルやAPIエンドポイント、企業サービスについても架空のドメインを生成し得る」と述べています。AIアシスタントに問い合わせを行い、こうしたファントムポータルへ誘導されたユーザーは、その裏に潜む悪意ある活動の被害に遭うリスクにさらされる、と研究者らは指摘しています。

こうした状況に加え、LLMが今や多くの企業にとって「信頼されたサプライチェーン上の依存関係」として存在していることを踏まえると、これらのハルシネーション由来のドメインは、企業全体でのAIアシスタント利用に起因する重大な脅威として浮上しつつあります。

ファントム・スクワッティングの悪用経路

悪用経路の一つは、コーディングアシスタントが、もっともらしいものの未登録の福利厚生ポータルのURLを生成してしまうケースです。この場合、攻撃者は先回りしてそのドメインを登録できてしまいます。もう一つは、Unit 42によると、AIリサーチエージェントがもっともらしい銀行ポータルのドメインを生成し、攻撃者がすでにそのドメインを登録済みでトラフィックを奪取できてしまうケースです。三つ目は、開発者がAIが生成したAPIエンドポイントを自分のコードに組み込んでしまい、知らないうちにアプリケーションのデータを攻撃者が管理するサーバーへ送信してしまうケースです。

Detectifyのセキュリティエンジニア兼共同創業者であるJohan Edholm氏はDark Reading誌の取材に対し、「攻撃の流れは単純です。繰り返し出現する架空のドメインをモデルに探らせ、最も有用そうな名前を登録し、その裏にフィッシングや悪意あるコンテンツを仕掛け、あとは人間(あるいは今や増えつつある自律型エージェント)がその推奨に従うのを待つだけです」と語っています。「安価で、繰り返し可能で、拡張性がある。これこそが攻撃を真に危険なものにしている要素です」。

同氏によると、ファントム・スクワッティングはタイポスクワッティングと関連していますが、重要な違いがあるといいます。タイポスクワッティングは誰かが既知のドメイン名を打ち間違えるのを待つ手口ですが、ファントム・スクワッティングはモデルがもっともらしいドメインを生成し、ユーザーがそこへ誘導されるのを待つ手口です。

Edholm氏によれば、これによりこの攻撃手法の検知はより困難になるといいます。「防御側が通常監視している予測可能なバリエーションの外側にドメインが存在する可能性があり、しかも新規登録されたドメインは評判の履歴がほとんど、あるいは全くない状態から始まるからです」。

「幽霊」の上に築かれた「モンタナ帝国」

Unit 42は優先度の高いハルシネーション由来ドメインを積極的に監視した結果、攻撃者候補による、当初特定してから18日から51日後のファントムドメイン登録を検知したといいます。ある事例では、この監視により、後にフィッシングキット「Montana Empire」の被害者向けサイトとして使われることになる「高リスク」な郵便サービスのeコマース系ドメインが、登録の23日前に検知されていました。

攻撃者はAIコーディングアシスタントを使い、正規の店舗サイトのスクレイピング、PHPバックエンドの構築、Telegramを利用したコマンド&コントロール(C2)の構築まで、ドメインを登録する前にフィッシングキット一式を丸ごと組み立てていました。このドメインは後に、認証情報窃取に利用されています。

研究者らは「この事例は、ファントム・スクワッティングによるサプライチェーン脅威モデルの全サイクルを示している」と指摘しています。「攻撃者は、私たちの発見パイプラインが23日前に特定していたインフラに対し、AIシステムを使って攻撃ツールを生成しました。攻撃者側と防御側の双方が、同じメカニズム、すなわち対象ブランドについて構造的に必然的に生じるハルシネーションをLLMが内部的に予測した結果として、同一の偽装ドメインにたどり着いたのです」。

Unit 42は、ファントム・スクワッティングが各国の郵便サービスやその他の業界を標的に、フィッシングや悪意あるAndroidアプリケーションに利用された事例も他に発見しています。

ファントム・スクワッティングの今後の進化と対策

Edholm氏によると、攻撃者がファントム・スクワッティングを悪用する上での危険性は、悪意ある活動の配信経路そのものが、すでにシステムによって「お墨付き」を与えられてしまっている点にあるといいます。同氏は「その推奨は、フィッシングメールではなく信頼されたアシスタントを通じて届くため、攻撃者が本来自ら獲得する必要のなかった信頼性を自動的に受け継いでしまいます。また、ドメインが先に悪い評判を得ていることを前提とする防御策も回避してしまいます」と説明しています。

この攻撃手法は、単に質問や推奨に対して誤った回答を提供するだけでなく、「人間のクリックを一切必要としない自動化されたサプライチェーン侵害」の実行へと進化していく可能性もある、とEdholm氏は述べています。「これこそが備えるべき方向性です。すなわち、障害点が『人間が誤った助言に従うこと』から『システムが本人に代わってそれを実行してしまうこと』へと移っていくのです」と同氏は語っています。

既存の脅威から身を守り、将来に備えるため、Edholm氏は各組織に対し、URLを信頼できる公式文書や承認済みの許可リストと照合して検証するセキュリティプロトコルを整備するとともに、AIエージェントが任意の新規ドメインへ自由に接続できないようにすることを推奨しています。また、そうしたシステムがアクセスできる認証情報やデータについても厳しく制限すべきだといいます。同氏は「要するに」と助言します。「もっともらしく聞こえる推奨事項を、独立したチェックを介さずにそのまま実行に移させてはいけない、ということです」。