寛容なAIアクセスと限定的な監視により、マルウェアは信頼できるエンタープライズトラフィック内に隠れ、適応的でAI駆動の攻撃を加速させる可能性があります。
生成AIツールの導入を急ぐエンタープライズセキュリティチームは、見落としている新たなリスクがあるかもしれません。攻撃者は、GrokやMicrosoft CopilotなどのウェブベースのAIアシスタントを悪用して、より詳しい検査から除外されることが多いドメインを通じて、マルウェア通信を静かに中継することができるのです。
Check Point Research（CPR）が概説した手法は、これらのプラットフォームのウェブブラウジング機能とURL取得機能を悪用して、双方向の指令統制チャネルを作成します。このチャネルは通常のAIトラフィックに溶け込み、APIキーや認証済みアカウントを必要としません。
「提案されている攻撃シナリオは非常にシンプルです。攻撃者がマシンに感染させ、マルウェアの一部をインストールします」とCPRは述べています。その後、マルウェアはウェブインターフェースを通じてAIアシスタントと通信し、攻撃者が管理するURLからコンテンツを取得させ、組み込まれた命令をマルウェアに返すようにAIに促します。
多くの組織がAIサービスへのアウトバウンドアクセスをデフォルトで許可し、そのトラフィックに対する検査を限定しているため、このアプローチは事実上、信頼できるAIドメインを秘密の出口インフラストラクチャに変えてしまいます。
セキュリティアナリストは、この発見はエンタープライズAIガバナンスにおける成長する盲点を明らかにしていると述べています。
「パブリックAIウェブサービスへの無制限のアウトバウンドアクセスを検査、アイデンティティ管理、または強力なログなしで許可するエンタープライズは、多くの場合気付いていないほど、より多くのリスクにさらされています」と、IDCアジア太平洋サイバーセキュリティサービスのシニアリサーチマネージャーであるSakshi Groverは述べています。
「これらのプラットフォームは信頼できる外部エンドポイントとして機能し、悪意のある活動は通常のネットワークトラフィック（広く使用されているAIドメインへの日常的なHTTPSセッションを含む）内に隠ぺいできるということです」と彼女は付け加えています。
サイバーセキュリティアナリストのSunil Varkeyは、この手法は過去の回避戦略（ステガノグラフィーや、攻撃者が正当なツールと信頼できるインフラストラクチャを悪用して検出を回避する「ランディングオブザランド」攻撃など）と同じようなものだと述べています。
CPRは、AIプラットフォームをC2リレーとして使用することは、潜在的な悪用ケースの1つに過ぎないと述べています。同じインターフェースは、ファイルの検索とシステム列挙から横展開用のPowerShellスクリプト生成まで、オンデマンドで操作コマンドを生成するように促すことができ、マルウェアが直接的な人間の管理なしに次のステップを決定することができます。
より高度なシナリオでは、マルウェアは感染したホストの簡潔なプロファイルを送信し、攻撃がどのように進展すべきかをモデルが判定することに依存することができます。
検出における構造的変化
この調査はまた、AIが開発ワークフローだけでなく実行時操作に組み込まれるに従い、マルウェアがどのように進化するかもしれない構造的シフトを指摘しています。
「AIが開発の支援から実行時にマルウェアの動作を積極的にガイドするようになると、検出は静的署名または既知インフラストラクチャインジケーターだけに頼ることができなくなります」とサイバーセキュリティ実践者のKrutik Poojaraは述べています。「ハードコードされたロジックではなく、マルウェア自体を変更することなく変更できる適応的で多型で文脈認識可能な動作を扱うことになります。」
Groverは、これは攻撃の指紋認証をより困難にし、防御者はより行動検出とエンドポイント、ネットワーク、アイデンティティ、およびSaaSテレメトリー全体の緊密な相関関係に依存することを強制していると述べています。
さらに重要なことに、これは防御のテンポを変えます。攻撃者が遭遇する環境に基づいてコマンドと実行パスを動的に調整できる場合、セキュリティチームはもはや固定されたプレイブックに対応しているのではなく、継続的に進化するインタラクションに対応しています。
「これは侵入と影響の間のウィンドウを圧縮し、リアルタイム検出、自動応答、および脅威インテリジェンスとSOC操作間のより緊密なフィードバックループの重要性を増加させます」とGroverは述べています。
実施すべき手順
セキュリティリーダーはAIをブロックすることによって対応すべきではなく、アナリストは述べていますが、他の高リスクSaaSプラットフォームに使用されるのと同じガバナンス規律を適用すべきです。
Varkeyは、使用中のすべてのAIツールの包括的なインベントリーを開始し、それらを承認および有効化するための明確なポリシーフレームワークを確立することを推奨しています。
組織はまた、AI固有のトラフィック監視と異常な自動化パターンを識別するためのシーケンスベースの検出ルールを実装する必要があります。考慮すべき他のオプションには、段階的な認識プログラムのロールアウトが含まれます。「アーキテクチャの観点から、組織はまた、ネットワーク、クラウド、アイデンティティ、およびアプリケーション層全体にわたって統一された可視性を提供するプラットフォームに投資する必要があります。これにより、セキュリティチームはシグナルを相互に関連付け、AI使用をアイソレートされたウェブトラフィックとして処理するのではなく、ドメイン全体で活動を追跡できるようになります」とGroverは述べています。
