最近まで、サイバーセキュリティはほぼ完全に事後対応型でした。
常に守りに回る組織は、テレメトリデータを収集し、侵入インシデントを分析することで、攻撃者がどのようにネットワークを侵害したかを学んできました。そして、その知見をもとに検知プロトコルを整備していました。
この手法の問題は、攻撃者がすでに行ったことしか分からない点にあります。
事後対応型のセキュリティ体制を採用する組織は多いものの、それが理想的だったことはありません。脆弱性の特定とパッチ適用は、テクノロジーが数年かけて進化していた時代には、ある程度有効な戦略でした。1990年代後半から2000年代初頭にかけてのWorld Wide Webの普及や、クラウドコンピューティングへの移行の時期がそうでした。
しかし、エージェント型AIの登場により、その時間軸は数週間にまで圧縮されました。侵入イベントに対応するだけでは、エージェント型AIによって可能になった脅威を軽減するにはまったく不十分です。それは事実上、攻撃者に降伏することを意味します。
直近のサイバー攻撃を研究するだけでは、AIを使いこなす攻撃者からネットワークを守れないのだとすれば、企業はこうした脅威にどう立ち向かえばよいのでしょうか。答えは、考えられるあらゆる攻撃シナリオを予測し、モデル化し、ウォーゲーム（模擬演習）で検証することです。
ハイパー合成データで起こり得る未来をモデル化する
エージェント型AIに効果的に対抗する唯一の方法は、エージェント型AIを導入することです。そのためには、エージェント型の防御を訓練・検証するための信頼できるデータが欠かせません。
ここで研究者は一つの矛盾に直面します。存在しないデータを使って、これまで一度も見られたことのない攻撃シナリオをどのようにモデル化し、シミュレーションすればよいのでしょうか。その答えが、ハイパー合成データ（HSD）です。
HSDとは、テストやシミュレーションの目的でLLMや機械学習モデルによって生成されるデータです。ほぼあらゆるパラメータに合わせて大規模に生成できるため、企業は自社ネットワークが直面しそうな攻撃シナリオについて、忠実度の高いシミュレーションを実施できます。
このシミュレーションは、本番環境から完全に切り離された、安全に隔離されたテスト環境で行います。この環境では、オペレーティングシステムやセキュリティアプリケーションを含め、組織の実際のネットワークインフラを忠実に再現します。正常なネットワークトラフィックが現実的な運用上のノイズとなり、その中でエージェントの挙動をテスト・検証できます。
こうして構築した模擬ネットワークに対し、ID中心の攻撃やLiving-off-the-land（環境寄生型）の永続化手法を含む実際のマルウェアで攻撃を仕掛けます。これにより、正確な訓練データを作成し、先回りした検知ルールを実装します。
これらのシミュレーションの有効性と精度は、現実的なテスト条件に大きく左右されます。エージェント型の技術は、環境が単純すぎたりゲーム的であったりすることを見抜けるため、不正確なテストデータにつながる可能性があります。
組織は、未検証のエージェントを本番環境に展開することなく、自社ネットワークの防御をテストし、最も可能性の高い攻撃経路や、攻撃者が悪用し得る具体的な脆弱性を特定する必要があります。
過去から学べることには限りがある
事後対応型のセキュリティ方針の最大の欠点は、リスクにさらされる機会が増えることに加え、過去の出来事がどれほど詳細に記録されていても、あくまで「すでに起きたこと」である点です。セキュリティインシデントからできる限り学ぶ努力は続けるべきですが、次世代の脅威に効果的に備えられるのは、先を見据えた場合だけです。
過去の攻撃データにも、なお使い道はあります。今年初めに起きたOpenAI Hugging Face（OAI-HF）の侵害のように個々のインシデントを詳細に記録すれば、特定の脆弱性がどのように悪用され、侵入者がアタックチェーンをどう進むのかを研究者が把握できます。しかし、今後のセキュリティ上の判断を過去のインシデントだけに基づいて行うのは、パッチ適用の効率化だけに注力するのと同様に的外れです。
近い将来、そして予見できる将来に目にするであろう最も深刻なサイバー攻撃は、巧妙さと規模の両面で、これまで経験したことのないものになるでしょう。
一方、メディアはゼロデイ攻撃やモデルが封じ込めを突破するといったセンセーショナルな見出しに気を取られがちです。しかし、エージェント型のサイバー攻撃で最大級の脅威の一つは、既知の攻撃ワークフローを数百万件単位で同時並行に統制し、実行できる能力にあります。
エージェント型の攻撃が頻度、規模、速度の面で増していくにつれ、過去の攻撃データの有用性は低下します。それに代わって、シミュレーションデータの価値が計り知れないものになるでしょう。
自動化は小さく始めて、早めに着手を
真の意味で自律型のサイバー防御の実現にはまだ時間がかかりますが、セキュリティリーダーが行動を起こせる猶予は狭まりつつあります。攻撃者は常に優位に立ってきました。攻撃者は一度成功すればよいのに対し、防御側は常に警戒を怠れないからです。しかもエージェント型AIは、潜在的なリスク要因を人間の能力をはるかに超えて増幅させます。だからこそ、ネットワーク、検知ルール、そしてチームのレジリエンス（回復力）を検証することが必要です。
防御ライフサイクルのどの部分であれ、自動化は小さく始めてください。最初のテストは、ID管理やアクセス制御、あるいは対応や復旧のプロトコルに絞るとよいでしょう。
シミュレーションは、エージェントを実環境に近い条件でテスト・検証できる、安全に隔離された環境で実施すべきです。とりわけ重要なのは、実際の顧客データや業務データが誤って侵害されかねない本番環境から遠く離れた場所でテストを行うことです。
エージェント型技術が成熟するにつれ、サイバー防御はAIを使った攻撃に対してより強靭になっていくでしょう。しかし当面、セキュリティリーダーは依然として守勢に立たされています。今こそ行動すべき時ですが、緊急性を理由に、質の高いデータや責任あるコントロール、質の高いエンジニアリングの実践をおろそかにしてはなりません。
防御のテストを始める準備はできましたか？ 侵害・攻撃シミュレーション（BAS）が、攻撃者に悪用される前にセキュリティ上の隙を特定するのにどう役立つか、ぜひご確認ください。
翻訳元: https://www.esecurityplanet.com/threats/cyberattack-preparation/
