今回のHelp Net Securityのインタビューでは、National Life GroupのVP兼CISOであるBecky Palmer氏に、AI主導の攻撃に対する防御について5つの質問を投げかけました。議論では、人間の速度に合わせて作られたパッチサイクルがなぜ追いつけなくなっているのか、そして即座に修正できない場合にどの代替コントロールが時間を稼ぐのかが取り上げられています。またセキュリティオペレーションセンターにおけるエージェント型AIの数値についても言及があり、5件中4件が人間へのエスカレーションなしで完結しているといいます。
残りの部分では、実働するAI製品と単なるラッパーを見分ける質問、サードパーティによるAI利用に関する契約条項、そして中小規模の銀行や保険会社が90日間で取れる3つのステップについて解説しています。
脆弱性の公表から悪用可能な攻撃コードが登場するまでの時間は、攻撃者がAIでエクスプロイトを作成するようになったことで短縮されています。このスピードに対応するため、パッチ適用と代替コントロールの運用面でどのような変更を行いましたか。また新しいメンテナンス期間について、経営層にどう納得してもらいましたか。
脆弱性管理の基本自体は変わっていませんが、脆弱性発見のスピードと規模は劇的に変化しています。フロンティアAIの登場により、今後6ヵ月間で発見される脆弱性の数は、過去30年間に発見された数を上回る可能性が高いでしょう。AIは攻撃者による脆弱性の発見と武器化をマシンスピードで実現し、攻撃にかかる時間を数週間から、場合によっては数時間にまで短縮させています。
攻撃者がマシンスピードで動く以上、人間の速度で回るパッチプロセスでは追いつけません。私たちはAIに対抗するためにAIを活用し、パッチ管理を自動化できないか検討しています。新たな脆弱性を自社の環境と照合し、エクスポージャーに基づいて優先順位をつけ、テストから展開までのサイクルを推進するためにAIを使う必要があります。これによりパッチサイクルの期間を圧縮できます。AIがもたらす恩恵は、パッチ適用前のテスト期間を短縮することにあり、テストを省略してビジネスリスクを高めることではありません。
現実として、組織には常に何らかの脆弱性が存在します。多くのセキュリティ侵害は、数日や数週間前ではなく、何年も前から知られていた脆弱性に起因しています。可能な限り迅速にパッチを適用することが重要です。即座の修正が難しい場合は、根本的な脆弱性を修正できるまでの間、エクスポージャーを減らすために代替コントロールを導入します。代替コントロールは脆弱性そのものを修正するものではありませんが、攻撃者がそこに到達する能力を制限します。
私たちが利用している例をいくつか挙げます。
1. Webアプリケーションファイアウォール、侵入防止システム、エンドポイント保護を使った仮想パッチ適用により、特定のエクスプロイトトラフィックをブロックする。
2. 露出しているシステムにアクセスできる対象を制限し、最小権限の原則とより強固な認証を徹底することで、アクセスを厳格化する。
3. 脆弱な資産に対象を絞った検知を導入し、監視を強化することで、悪用の試みを即座に把握して対応できるようにする。
可能な部分を自動化し、実際のエクスポージャーに基づいて優先順位をつけ、即座の修正が難しい場合には代替コントロールを重ねて配置することで、対応時間を圧縮し、かつてないスピードで動く攻撃者に後れを取らずに済みます。目指しているのは脆弱性がゼロの完璧な環境ではありません。それは決して実現しないものです。私たちが重視しているのは、攻撃者が付け入る隙を縮小し、マシンスピードの脅威にマシンスピードの防御で対抗する、規律ある強靭なプログラムです。
AI支援型のセキュリティ機能のうち、アナリストの業務負荷を実際に軽減できたものはありますか。導入前後の数値はどのようなものでしたか。また、期待した効果を発揮できなかった機能があれば、その理由も教えてください。
私たちは最近、SOCにエージェント型AIの活用を始めましたが、セキュリティ調査の量と質の両面でフォースマルチプライヤーとなっています。AIによって複雑な調査を自動化し、検知と人間による文脈理解のギャップを埋めることができます。AI対応のユースケースでは、5件中4件が人間へのエスカレーションなしで解決しています。自動検索、コンテキストの充実、高度な要約によって毎日何時間もの時間を節約できており、その分チームは人間の判断が必要なリスクに専門知識を集中させられるようになりました。
これはサイバーセキュリティにおけるAIの位置づけを考えるうえで重要な違いです。目的は必ずしもアナリストを置き換えることではなく、アナリストがより速く動き、最も価値の高い部分に時間を集中できるようにすることにあります。
調達の過程で、セキュリティベンダーのAIに関する主張をどのように評価していますか。実働する製品と単なるラッパーを見分けるために投げかける質問を教えてください。
近年、新しいAIセキュリティ企業が次々と登場しているように見えます。その中には大きな成果を上げていく企業もあれば、現れたときと同じくらいすぐに姿を消してしまう企業もあるでしょう。それぞれが自社にとって価値を提供できるかどうかを見極めるためのデューデリジェンスが必要です。最初に投げかけるべき質問には、以下のようなものがあります。
- 自社データを使ってプルーフ・オブ・バリューを実施し、機能を検証できるか
- 保護されたインスタンスを使用しているか、それとも何らかの公開AIモデルを利用しているか
- 自律的に何ができるのか、すべての動作がログに記録されているか、キルスイッチはどうなっているか
- 実運用時の総コストはいくらになるか
ベンダーがAI対応セキュリティ製品にできることを説明するだけでは不十分です。「インテリジェント」「アダプティブ」「自律的」といった各主張は、測定可能なテストか契約条項に落とし込まれるべきです。そうでなければ、単なるマーケティングと見なすべきでしょう。また、想定外の動作をした場合や、誤用された場合、あるいは設計時に想定していなかったシナリオに直面した場合に何が起こるのかも知っておきたいところです。
セキュリティリーダーは、AIというラベルの先にある、その技術が実際に提供している能力を理解し、その性能が独立した第三者によってどのように検証されているかを把握すべきです。自社データを使ったプルーフ・オブ・バリューによる評価は決して省略してはいけません。最終的な問いは、それがリスクを有意に低減できるか、あるいはセキュリティチームの検知・対応能力を向上させられるかどうかです。AIを活用しているという事実だけでは十分ではありません。
ベンダーや独立系代理店が、御社の管理下にあるデータに対して、御社が承認していないAIを使用しているケースが出てきています。有用な回答を引き出すために、契約書やアセスメント用の質問票にどのような項目を追加しましたか。
私たちは、サードパーティによるAI利用をベンダーリスクとデータガバナンスの両面の問題として扱っています。ベンダーリスクアセスメントでは、ベンダーおよび独立系代理店に対し、使用しているAIツールやモデル、関わる機微なデータ、そのデータの処理場所、保持期間、学習に利用されているかどうかの開示を求めています。これにより、機微なデータを保護するために彼らがどのようなセキュリティ対策を講じているかを評価できます。そのうえで契約により、事前承認、承認済みのエンタープライズLLM環境の利用、未承認のサードパーティLLMの利用制限、学習・二次利用の制限、AIプロバイダーおよび再委託先に対する管理といったガードレールを設けています。
AI予算を持たない中小規模の保険会社や銀行のセキュリティリーダーが、90日間でAI主導のリスクを低減するために必ず実行すべき3項目を教えてください。
中小規模の保険会社のセキュリティリーダーが、90日間でAI主導のリスクを低減するために優先すべき3項目は以下のとおりです。
1. 最も高いリスクを把握し、優先順位をつける: セキュリティ体制を改善するために大規模なAI予算は必要ありません。先ほど述べたとおり、どの組織もすべての脆弱性を排除することはできません。まずは、自社の最も機微な情報がどこにあるのか、最もリスクにさらされている箇所はどこか、データの流出を検知できるか、そしてどのリスクが最大の影響を及ぼしうるかを把握することから始めましょう。すべてを一度に対処しようとするのではなく、そこにリソースを集中させることが重要です。
2. IDおよびアクセス管理を強化する: 従業員が業務に必要なシステムと情報だけにアクセスできるようにし、可能な限り管理者権限を制限しましょう。強固なID管理があれば、攻撃者(AIであれ人間であれ)が侵害したアカウントをより大きなインシデントへと発展させることが著しく困難になります。
3. 従業員を教育する: 何よりもまず、従業員は非公開の会社情報をAIツールに入力してよい場面と、してはいけない場面を理解する必要があります。これはトレーニングで伝えるとともに、情報セキュリティポリシーに明文化しておくべきです。セキュリティ意識向上トレーニングでは、AIによってフィッシングやディープフェイクがますます巧妙になっている点も強調すべきでしょう。定期的なフィッシング演習、継続的なサイバーセキュリティ研修、そして従業員が不審な活動をすぐに報告できる文化の醸成が、重要な防御層となります。
翻訳元: https://www.helpnetsecurity.com/2026/09/02/becky-palmer-national-life-group-ai-driven-cyber-threats/
