Zscaler、企業全体にわたる重大なAIセキュリティギャップを発見

企業が人工知能(AI)の導入を急速に進める中、セキュリティチームはフロンティアAIモデルが企業のサイバーリスクをどのように変えうるかを理解しようと奔走しています。 

Zscalerは理論上のシナリオに頼るのではなく、Anthropic と OpenAI のフロンティアAIモデルを90日間使用し、実際の企業環境数十件を攻撃者視点で評価しました。 

その結果から、AIは全く新しい脅威を生み出しているのではなく、既存のセキュリティ上の弱点の悪用を加速させていることが明らかになりました。

Zscalerによると、評価対象となったすべての組織で、AIを活用した攻撃者が悪用しうる重大な脆弱性が確認されました。 

同社の報告によれば、統制の効いていないAIの露出があった組織は100%、VPNアプライアンスをインターネットに露出させたままの組織は90%、CISAのKEV(既知の悪用済み脆弱性)カタログに記載された脆弱性を持つインターネット公開資産を保持していた組織は53%に上りました。 

敵対的テストでは、最初の重大なセキュリティ侵害が発生するまでの中央値はわずか16分で、90%の環境が90分以内に侵害されました。

Zscalerが発見したAIセキュリティギャップの要点

• 評価対象組織の100%で統制の効いていないAIの露出があり、90%がVPNアプライアンスをインターネットに露出させ、53%がインターネット公開資産にCISAの既知の悪用済み脆弱性(KEV)を抱えていた
• 敵対的テストでは、最初の重大なセキュリティ侵害までの中央値は16分で、90%の環境が90分以内に侵害された
• フロンティアAIは、新たなゼロデイエクスプロイトに頼るのではなく、既存のセキュリティ上の弱点を素早く連結させて完全な攻撃経路を構築した
• 強固なゼロトラストアーキテクチャ、TLSインスペクション、継続的な監視を備えた組織は、著しく高いレジリエンスを示した
• CISOは、AIを活用した脅威に対応するため、継続的なAIガバナンス、露出管理、アイデンティティセキュリティ、定期的なAIレッドチーム演習を優先すべき

AIが既存の弱点の悪用を加速

Deepen Desai氏(Zscalerの最高セキュリティ責任者兼研究開発担当EVP)は、企業が他の業務アプリケーションに求められるのと同等のセキュリティ管理を適用しないままAIサービスを公開していると指摘します。

「AIツールが適切なセキュリティ対策なしにオンラインで公開されているように見えます。ログインもID確認も実質的な監視もありません」とDesai氏はeSecurityPlanetへのメールで述べています。 

さらに同氏は、「企業がAI導入を急ピッチで進める一方で、セキュリティチームがそのスピードに追いつくために十分早い段階から関与できていないことが、こうした事態が頻発する理由です」と付け加えています。

フロンティアAIモデルは、高度なゼロデイ脆弱性に頼るのではなく、複数の低リスクな弱点を素早く特定し、組み合わせることで攻撃を成功させています。

「セキュリティツールが完全に欠落しているケースは通常ありません。問題は、攻撃者が素早く通り抜けられるほど多くの隙間が放置されていることです」とDesai氏は説明します。「AIは今や弱点を素早く見つけ出せるだけでなく、単独では重大に見えない小さな弱点同士を連結させることもできます」。

同氏はこのプロセスを、鍵を一つも開けることなくオフィスに侵入する行為に例えています。ある入口ではテールゲート(便乗入室)を行い、別の場所では放置された社員証を見つけ、監視の行き届いていないエリアを通り抜けるといった具合です。

個々に見ればどの問題も壊滅的とは思えませんが、それらが組み合わさることで侵入が成功してしまいます。AIはこのプロセスを、機械的な速度で絶え間なく実行します。

レガシーな露出がより大きなAIリスクに

今回の調査では、AIが偵察と攻撃を自動化することで、長年放置されてきたセキュリティ上の問題がはるかに危険なものへと変貌する様子も浮き彫りになりました。

Desai氏はこの変化を、生物学的なウイルスの増加になぞらえています。ウイルス自体の性質は変わらなくても、感染の速度と規模が変わるのと同じだというのです。 

同様に、根底にあるセキュリティ脆弱性そのものは変わらない一方で、AIは攻撃者がそれを悪用する速度を劇的に加速させています。 

「露出したアプライアンスのようなレガシーな弱点自体は新しいものではありません」と同氏は述べます。「新しいのは、AIを活用した攻撃者がそれらを特定し、テストし、リスクの様相を一変させるほどの速さで組み合わせて突破できるようになった点です」。

アイデンティティも、今回の評価で主要な攻撃ベクトルの一つとして浮上しました。Desai氏によると、フロンティアAIモデルは一貫して、侵害された認証情報や過剰なユーザー権限を標的にしていました。

「セグメンテーションの成熟度の問題により、90%を超える組織で、一つの盗まれた認証情報から数千に及ぶ資産やアプリケーションへの侵入経路が開かれてしまいます」と同氏は語ります。

ゼロトラストの実践がレジリエンスの差を生む

Zscalerの研究者たちが意外だったと感じた発見の一つは、多くの組織が基本的なセキュリティ管理策をすでに講じていると考えていたにもかかわらず、AIによるテストで悪用可能な隙間が繰り返し見つかったことです。

「最大の驚きは、インスペクションポリシー、外部攻撃対象領域の縮小、ラテラルムーブメント(内部横展開)対策といった基本の部分に、これほど多くの露出が存在していたことです」とDesai氏は述べます。「これらは新しい概念ではありませんが、AIによってそれを正しく実行するハードルが劇的に上がりました」。

強いレジリエンスを示した組織は、必ずしも全く新しい技術を導入していたわけではありませんでした。 

むしろ、TLS(トランスポート層セキュリティ)インスペクション、ゼロトラストアーキテクチャ、検知能力の向上、不審な活動に対する監視の強化といった、確立されたセキュリティ実践を着実に実行していました。

「心強いのは、多くの企業がすでに持っているリソースだけで、今日からこれを実践できるという点です」とDesai氏は述べています。

ガバナンスはAI導入のスピードに追いつく必要がある

ビジネス全体にわたってAIの導入が拡大し続ける中、Desai氏はCISOに対し、まずAIサービスがどこで稼働しているかを可視化した上で、アイデンティティ管理を強化し、不必要なインターネットへの露出を減らすことを推奨しています。

また同氏は、継続的な露出監視、AIレッドチーム演習、セグメンテーションの強化、データ損失防止、デセプション技術、そしてテスト済みのインシデント復旧計画を通じた継続的なガバナンスの重要性も強調しています。

今後を見据え、Desai氏は、AIの能力が非常に速いペースで進化していることから、組織は計画の時間軸を年単位から週単位へと短縮すべきだと考えています。

「組織には、数か月ではなく12~24週間というスパンで物事を考えるよう勧めたいですね」と同氏は述べます。「脅威アクターもフロンティアAIモデルを手にするようになるでしょう。これはもはや理論上の問題ではありません」。

セキュリティリーダーに対して同氏は、次の2つの問いに焦点を当てるよう勧めています。AIを活用した攻撃者の視点から見た場合、自社の組織はどのように見えるか。そして、インターネットに公開された資産やアイデンティティが一つでも侵害された場合、攻撃者はどこまで侵入を広げられるか、という問いです。 

この2つの問いに自信を持って答えられない組織は、AIを活用した攻撃者に急速に悪用されかねない、重大なアーキテクチャ上・運用上の隙間を抱えている可能性があります。