Hugging Face級の事件に備えられている組織はほとんどない

AIはサイバー攻防のあり方を変えつつあり、セキュリティチームは「防御が機能するはず」と期待するだけでなく、絶えず自らの防御を検証する必要があります。

米国家安全保障局(NSA)と中央保安部隊は先頃、ファイブアイズ(Five Eyes)のサイバーセキュリティ機関を代表して勧告声明を発表し、AI技術によって悪意ある攻撃者が機微なネットワークに侵入し、侵害することがかつてないほど容易になっていると警告しました。

声明は次のように述べています。「AIはもはや将来の検討課題ではありません。すでに現実のものです。AIは悪意ある攻撃者にとっての参入障壁を下げ、攻撃の速度と複雑さを増大させることで、脆弱性の発見から悪用までの時間をますます短縮しています。同時に、AIは防御を強化するための強力なツールももたらします」。

AIはサイバーセキュリティにおいてますます重要な層になりつつありますが、NSAの勧告声明は、今日の脅威環境が根本的に非対称であるという点を見落としています。現時点では、激化し続けるサイバー防御の軍拡競争において、攻撃者側が優位に立っているのです。この声明の最も懸念すべき点の一つは、現在の脅威環境の深刻さを過小評価しており、その内容だけを見れば何年も前に発表されたものだと言われても違和感がないほどだということです。

声明はこう続けます。「AIツールをセキュリティ運用に組み込む組織は、脆弱性をより早期に検知し、ソフトウェアの品質を向上させ、異常な挙動を監視し、インシデントへの対応を迅速化できます。これにより、インシデントのコストと影響の双方を軽減できるのです。成功は、ツールの数の多さからではなく、基本を徹底し、迅速に行動し、サイバーセキュリティを事業戦略の中核に組み込むことによってもたらされます」。

エージェント型セキュリティが、人間の専門家では見落としがちな侵入をより早期に検知し、ネットワーク上の異常な活動を監視できるというのは事実です。しかし私たちはすでに、「基本を徹底する」ことや「サイバーセキュリティを事業戦略の中核に組み込む」ことだけでは、AIを用いたサイバー攻撃がもたらす非対称な脅威を軽減するのに十分ではない段階に達しています。セキュリティ責任者は、これまで見たことのない脅威を先回りして軽減するために行動しなければならず、そのための唯一の方法は、自組織のサイバー防御態勢の能力と限界を正確に把握することです。

私たちは2025年12月から2026年3月にかけて、93名のCISOおよびセキュリティ実務の上級責任者を対象に調査を実施し、その結果をSimSpace環境から得た実際のパフォーマンスデータと組み合わせることで、企業全体のSOCがAI駆動型の脅威に対する耐性をどのように検証しているかを測定しました。その結果、調査対象のセキュリティ専門家のうち78%が、自組織のエージェント型防御の能力に高い自信を持っていることが分かりました。しかし、検知・対応時間は依然として1~6時間の幅に集中しており、調査参加者の20%は平均検知時間(MTTD)や平均対応時間(MTTR)を一貫して測定できていません。これは、AIがテスト・測定・実証・信頼の確立が追いつかないほどのスピードでSOC環境に導入されていることを示しています。

OpenAIによるHugging Faceのシステムへの侵害のような最近の大きな事件が示す通り、サイバー防御態勢に関する根本的な前提は変わらなければなりません。OpenAIはHugging Faceのシステムへの攻撃について責任を認めたものの、自社モデルによる侵入を1週間近く検知できず、FBIが捜査に着手して初めて侵害に気づいたのです。侵入をいかに迅速にトリアージするかということだけでは、もはや十分ではありません。セキュリティ責任者は、実際の侵入事件が進行中の圧力下で、自組織のチームとツールがどのように機能するのかを把握しておく必要があります。

企業全体のセキュリティ責任者が直面する最大の脆弱性の一つは、従来の知識・訓練と、個々の組織が直面する固有の脅威との間にある大きな乖離です。あまりにも多くの企業が、いまだに定期的な研修や画一的な指導、従来の常識という枠組みでサイバーセキュリティを捉えています。自組織が直面する可能性の高い攻撃ベクトルについて、現実的なシミュレーションを行い、チームとネットワークを実際に試す組織はまだ少数派です。さらに悪いことに、一部の企業は検証されていないエージェント型防御を本番環境にそのまま展開しており、これによって潜在的な攻撃対象領域がさらに広がり、日和見的な攻撃者に独自の脆弱性を晒す結果になりかねません。

ファイブアイズのセキュリティ声明は、サイバーリスクは「もはや純粋な技術的問題として扱うことはできない」とし、自律型サイバー攻撃という新たな脅威に対抗するには「組織全体、社会全体を挙げた対応」が必要だと指摘しています。だからこそ私たちは、支援先の多くのクライアントに対し、サイバーセキュリティを単なる技術的な課題ではなく、組織文化としての価値観と捉えるよう提言しています。

組織が防御態勢の即応性を高めるために取れる最も効果的な施策の一つは、定期的なテストから、絶えず訓練し続ける文化への転換です。新たに出現する脅威に対応し続けるには、セキュリティ責任者は単発の演習ではなく、継続的な検証ループへと移行し、検知・対応・AI主導のプロトコルを定期的にテストする必要があります。より頻繁にテストを行う組織は、測定可能な形でより高いパフォーマンスを達成する一方、テストの頻度が低い組織は概して頭打ちになる傾向があります。

今日の非対称な脅威環境では、従来のパフォーマンス指標はほとんど役に立ちません。セキュリティ責任者は、検知されたアラート数といった旧来の指標に頼るのではなく、人間とAI双方のワークフローにおける検知の成功率、対応の正確性、判断の質といった、成果ベースの指標を測定すべきです。成果ベースの指標がなければ、組織はAIがパフォーマンスを向上させているのか、それとも新たなリスクをもたらしているのかを判断できません。

ファイブアイズのセキュリティ声明が指摘する通り、AI技術の急速な進歩により、サイバー防御に関するリスク想定は数年単位ではなく数か月単位で陳腐化しかねません。これは継続的な訓練という観点で課題をもたらします。どれほど能力の高いセキュリティチームであっても、新しいワークフローに適応するには時間がかかります。セキュリティ責任者は、エージェント型防御を導入・テストする際に避けられない摩擦をあらかじめ織り込んでおく必要があります。SimSpaceのデータによれば、AIエージェントの導入初期にはおおむね10~20%程度のパフォーマンス低下が生じることが多いものの、その後はテストを重ねるごとに着実に改善していきます。この学習曲線を見越し、定期的かつ反復的なテストを行う組織ほど、長期的な成果を実現できる可能性がはるかに高くなります。

エージェント型防御に対する自信のギャップを埋める上で最も重要なステップは、AIによるサイバー防御を安全に、継続的にテスト・実証できる環境を確立することです。これには、本番環境を現実的かつ制御可能な形で再現した「AI Proving Grounds(AI実証実験場)」が必要です。この環境があれば、組織は現実的な攻撃者の行動をシミュレートし、AI主導の検知・対応ワークフローを実践し、自動化されたプレイブックをエンドツーエンドでテストし、人間のアナリストとAIエージェントが連携した際のパフォーマンスを評価できます。最先端の研究機関(フロンティアラボ)と悪意ある攻撃者の双方がエージェント型技術を限界まで追求し続ける以上、新たな脅威は今後も出現し続け、これまで一度も目にしたことのない脅威こそが最も差し迫った脅威であるため、世間の注目を集める重大事件も今後絶えることはないでしょう。世界各地で地政学的緊張が高まる中、国家機関や重要インフラが直面する脅威はかつてないほど高まっています。

軍隊では、兵士たちは「戦うように訓練せよ(train like you fight)」と教えられます。これは、実戦さながらの状況をできる限り忠実にシミュレートすることで、戦場の現実、すなわち銃撃下でどう対応すべきかに備えるという考え方です。セキュリティ責任者は、侵害は避けられないものだという前提に立ち、実際にそれが起きたときに新たな脅威へ対処できるよう、自らのチームとツールを信頼できる状態にしておかなければなりません。その信頼を築く唯一の方法は、実際にテストすることであり、そのためにはチーム・ツール・エージェントを互いに並べて評価できる、安全で真に隔離されたサンドボックス環境が不可欠です。この発想を取り入れた組織こそが、エージェント型AIによって新たに生まれる脅威に、より的確に対処できるようになるでしょう。

どれほど忠実度の高いリアルタイムサイバー攻撃のシミュレーションであっても、実際の侵害という現実にセキュリティ専門家を備えさせる上で、その効果には限界があります。とはいえ、四半期に一度の研修などよりも、はるかに効果的であることは間違いありません。

翻訳元: https://www.csoonline.com/article/4211112/most-organizations-arent-ready-for-a-hugging-face-level-event.html

本記事は csoonline.com の記事を翻訳・要約したものです。