AIの予測不可能でダイナミックな性質が従来のサイバーセキュリティモデルを破壊しつつあり、リーダーたちは予防から「リアルタイムのランタイム可視性」へと焦点を移す必要に迫られています。
大きな技術的変革のたびに、サイバーセキュリティのあり方は変わってきました。私はキャリアの大半を、商業インターネットの勃興からモバイル、クラウドコンピューティングに至るまで、主要な技術転換期を乗り越えることに費やしてきました。各転換期はイノベーションの新たな機会をもたらす一方で、組織が十分に備えていなかった新たなセキュリティ上の問題も生み出しました。
AIはある面では過去の技術転換と似ていますが、一点において決定的に異なります。それは、現代のセキュリティプログラムが根拠としてきた根本的な前提——「予測可能性」——に挑戦するという点です。
私のキャリアのほとんどにおいて、セキュリティチームはシステムが決定論的に動作する環境で働いていました。アプリケーションは基本的に毎回同じように動作し、インフラの変化はゆっくりとしていたため、人間が依存関係をマッピングし、信頼境界を理解し、その周囲に制御を実装する時間がありました。クラウドへの移行でさえ、見慣れたセキュリティモデルを新しいインフラに適用することができました。
AIはそうした前提を覆します。
エージェント型システムは動的に意思決定を行います。大規模言語モデルはコンテキストに応じて異なる出力を生成します。AIシステムは外部のツール、API、環境と連携するようになっており、その動作を開発者が事前に完全に予測できるとは限りません。システムが一貫した動作をしなくなると、「悪いものを締め出す」という従来のサイバーセキュリティアプローチは機能しなくなります。
予防は依然として重要です。しかし、リスクがランタイム中に継続的に変化する環境では、予防だけでは構造的に不十分です。
決定論的システムのために構築されたセキュリティ
数年前にセキュリティプログラムの構築に携わっていた頃、その多くはデプロイ前のシステム堅牢化に焦点を当てていました。セキュリティチームは早期に脆弱性を特定し、攻撃対象領域を減らし、攻撃者がそもそもアクセスできないよう防止しようとしていました。
クラウド導入の初期においても、ほとんどの組織はセキュリティを主に設定とポリシー管理の観点からアプローチしていました。権限、公開されたストレージバケット、IDの乱立を懸念しながら、クラウドセキュリティツールは設定ミスの特定とインフラのロックダウンに重点を置いていました。
これらの管理策は今日でも非常に重要です。しかし、クラウドの時代は、セキュリティ上の失敗が静的な図の上では起きないことも教えてくれました。それは、権限が変わり、APIが進化し、IDが予期せぬアクセス経路を得る、ライブ環境で起きるのです。システムがアーキテクトの想定を超えた形で相互作用するなかで。
組織が環境の一つの状態をマッピングし終える頃には、その環境はすでに変わっています。リスクはますますランタイムに生まれるようになっています——IDが意図しないアクセスを継承したり、APIが動作を変えたり、AIエージェントがいかなるアーキテクチャ図にも捉えられていない形でシステムと連携したりするのです。
私がさまざまな企業と交わした会話の中で、月間のコード生成量が数十万行から数百万行へと移行するケースを目にしました。AI支援の開発ツールは、ソフトウェアエンジニアリングのワークフローを根本から変えています。ハーバード・ビジネス・スクールの研究によると、開発者がGitHub Copilotを使えるようになった後、コーディング活動は12.4%増加した一方、プロジェクト管理タスクへの時間は約25%減少しました。これは、ガバナンスが依存するレビューや調整に割く時間が減ることを意味します。
ビジネスの観点から見れば、加速はレバレッジをもたらしますが、同時にセキュリティチームが本番環境に何が入ってくるかを把握するための時間を圧縮します。攻撃者はAIを活用し始めており、かつては手動で行っていた偵察、エクスプロイトの連鎖、脆弱性の検証を大規模に自動化しつつあります。
隠蔽によるセキュリティは勝てる戦略ではありません。長年にわたり、組織は悪用に膨大な時間・専門知識・労力が必要だという理由で、特定の脆弱性を容認してきました。
かつては連鎖させるのが難しいとされていた脆弱性が、攻撃者がAIを使ってプロセスの一部を自動化することで、大規模に活用しやすくなっています。セキュリティリーダーは、過去10年間にわたって構築してきた優先順位付けモデルの一部が、もはや現実を反映していない可能性を認識する必要があります。
予防だけでは不十分な理由
AIシステムの自律性が高まるにつれ、ランタイムの可視性が不可欠になります。
多くの組織はかつて、ランタイム監視を予防の背後にある二次的なレイヤーとして扱い、主にエッジケースへのセーフティネットとして位置づけていました。
しかし、システムがセキュリティチームのリアルタイムな検証速度を超えて進化・連携できるようになると、そのモデルは機能しなくなります。
AIエージェントが複数のシステムと連携し、独自に新しいアクションを生成し、変化するコンテキストに応じて動作を適応させられるなら、組織はデプロイ前の管理策だけに頼ることはできません。セキュリティチームは、これらのシステムが稼働中に何をしているかを把握する必要があります。
具体的には以下の点が挙げられます。
- AIシステムがアクセスできるデータの把握
- IDが機密環境とどのように連携しているかの確認
- エージェントが実行しているアクションの監視
- システムが期待される動作から逸脱していないかのチェック
- 意図しない結果をどれだけ迅速に封じ込められるかの評価
多くの意味で、現代のセキュリティはあらゆる侵害を防ごうとすることから、システムが自律的に動作し始めた際に、意図しない動作がどれだけ速く拡散するかを制限することへとシフトしています。
セキュリティリーダーは、このシフトに対して恐怖に駆られた過剰反応をしないよう注意が必要です。AIは確かに新たなセキュリティ上の課題をもたらしますが、防御者にとっての機会も生み出します。
セキュリティチームはもはや人手だけでスケールすることはできません。インフラの変更、ソフトウェアの生成、脆弱性管理の量は、ほとんどの組織が手動で対応できる範囲を超えています。
AI支援によるトリアージ、調査ワークフローの自動化、セキュリティチームの動作を加速させ増大する運用の複雑性を管理する防御エージェントといった取り組みが、各組織で始まっています。セキュリティ製品は、受動的なアラートシステムではなく、セキュリティチームの運用上の延長線として進化しつつあります。
この進化は理にかなっています。攻撃者は自動化とAIを使ってスピードとスケールを高めています。防御者も同じことをしなければ、対等な立場を維持できません。
AI時代のセキュリティリーダーが優先すべき5つの課題
AIがもたらすリスクへの対応で最もうまく適応できる組織は、必ずしも最大のセキュリティチームや最大の予算を持つ組織ではありません。多くの場合、ソフトウェア、インフラ、攻撃者の行動が従来のセキュリティ運用が対処できるスピードよりも速く変化するなか、最も素早く適応できる組織です。
このシフトには、リスク、運用、レジリエンスの管理方法について、考え方を根本から変えることが求められます。
1. AIスケールのソフトウェア開発に対応した脆弱性管理の再構築
多くの脆弱性管理プログラムは、AIがソフトウェア生成を加速させ攻撃者のコスト曲線の一部を引き下げる以前から、すでに手に負えない状況でした。この課題はさらに指数関数的に難しくなっています。
攻撃者がAIを使って偵察、脆弱性の連鎖、エクスプロイト開発を加速できる環境において、古い悪用可能性モデルが通用すると思い込むことは禁物です。
脆弱性の優先順位付け、検証、修復の方法を見直す必要があります。過去10年間に組織が設けてきた「攻撃者の限界」についての前提が、もはや現実を反映していない可能性があるからです。
一部の組織はすでに、新しいAIモデルをより効果的かつ安全にデプロイするためのモデルハーネスへの投資を進めています。
2. ランタイム可視性を主要な管理策として位置づける
ランタイム監視はもはや予防の背後にある二次的な機能として扱うことはできません。すべてのチームがこの可視性を得るための新たなツールへの投資を行う必要があります。
ただし、ランタイム監視はその場の感覚でコーディングして実現できるものではありません。セキュリティベンダーが本番環境において、ワークロード、ID、API、AIシステムの動作を継続的に可視化する機能を構築することを期待する必要があります。
どの脆弱性が到達可能か、露出しているか、あるいは実際に悪用されているかについて、より明確なコンテキストを優先してください。AIシステムがインフラやデータとより予測しにくい方法で連携するようになるにつれ、この点はますます重要になります。
3. AIを防御運用の強化に活用する
ほとんどの組織は、AIがもたらす運用上の要求に追いつくだけの人員を採用することができません。
自動化とAIを活用して、調査にかかる時間を短縮し、反復的なワークフローを自動化し、対応速度を向上させてください。人間の判断は依然として重要ですが、セキュリティチームは、アラート、インフラの変更、ソフトウェア生成の量が人間が手動で管理できる範囲を超えた環境で運用しています。
AIは、運用上のノイズではなく、より高次の意思決定にチームが集中できるよう支援します。
4. レジリエンスと封じ込めに注力する
完全な予防はかつて存在したことはなく、高度にダイナミックなAI環境ではさらに現実的ではなくなります。
影響範囲の最小化、迅速な封じ込め、運用レジリエンスについてより慎重に考えてください。組織がより自律的なシステムをデプロイするようになるにつれ、意図しない動作を素早く検知し、下流への影響を限定する能力がはるかに重要になります。
多くのセキュリティリーダーは、AIシステムが失敗する「かどうか」にまだ焦点を当てすぎており、それが必然的に起きた際に安全に運用する「方法」への備えが不足していると感じます。
5. セキュリティをトランスフォーメーションのイネーブラーとして位置づける
セキュリティ組織が今犯しうる最大の過ちの一つは、AIを主に「阻止すべきもの」として捉えることです。
取締役会やCEOたちは、AIを戦略的に不可欠なものと捉え、積極的にAI導入を推進しています。セキュリティを純粋にブロッキング機能として位置づければ、数十年に一度の重要な技術転換期において影響力を失うリスクがあります。
経営幹部チームは、AIトランスフォーメーションがリアルタイムでリスク判断を導く強力なセキュリティリーダーシップなしには成功しないことを理解しています。
これは、ダイナミックな環境により適したセキュリティプログラムを構築しながら、ビジネスが安全に加速するよう支援する機会です。
AIが強いる新たなセキュリティ運用モデル
AIがセキュリティチームに生み出す核心的な課題は、単なるスケールの問題ではありません。予測可能性の喪失です。AIシステムがビジネス運用に深く統合されるにつれ、変化のペースはさらに加速するでしょう。
この環境で効果的に運用するには、迅速に適応でき、リアルタイムでリスクを封じ込め、可視性やコントロールを失わずにイノベーションを支援できるセキュリティプログラムの構築に注力してください。採用とベンダー投資の両面においてこの進化を推進し、AIへの精通と運用上の専門知識をより重視してください。
人材とツールへの優先的な投資によってのみ、より強固なランタイム認識、より速い対応能力、そして継続的に変化するインフラとソフトウェア環境に追いつける運用モデルを実現できます。
本稿はFoundry Expert Contributor Networkの一部として掲載されています。
参加を希望される方はこちら。
