今回のHelp Net Securityのインタビューでは、GremlinのセキュリティオフィサーであるFrederic Bull氏に、AIがセキュリティチームにとって何を意味するのかを伺いました。話は、「モデルが何のデータで学習されたか」という問いが全体像の一部でしかない理由や、AIエージェントに対しても最小権限とアクセス制御が依然として重要である理由に及びます。
また、AIが攻撃側と防御側のスキル格差をどのように縮めてきたか、同じ人員体制のまま約9倍もの脆弱性を処理できるようになった経緯、そして自信満々でありながら誤った出力を見抜ける経験者が今の採用で重視される理由についても語っていただきました。
他のセキュリティリーダーと話す際、聞き飽きたAI関連の質問はありますか。誰もが同じ質問をする一方で、その裏にあるもっと本質的な問いに誰も気づいていないような場合について教えてください
最もよく耳にする質問は「このモデルは何のデータで学習されたのか」というものです。この背景にあるのは機密性への懸念です。企業は自社の知的財産がAIの一般知識の一部になってしまうことを避けたいと考えています。これは正当な懸念であり、軽視すべきではありませんが、そこで思考を止めてしまうと、本来の多層防御アプローチには穴が残ってしまいます。
もっと問われるべきなのに、あまり聞かれない質問は「そのデータの権限と完全性をどう維持しているのか」というものです。これについては明確な答えがあります。長年にわたり、認証とアクセス制御によって実現される最小権限の原則は、安全な環境を確保するうえで最も重要な要素であり続けており、今もその重要性は変わりません。OIDC/OBOによるセッションベースのRBACや、状況に応じた適切な権限スコープの設定といった技術によって、AIが本来想定された能力を超えて動作しないようにできます。これは数十年にわたり企業のセキュリティプログラムの基盤となってきた考え方であり、現在も同様に重要です。
セッションベースのRBACや適切にスコープ設定された権限といった最新のソリューションを引き続き導入することで、AIエージェントが技術的な能力を超えて動作することがないよう保証できます。エージェント同士の通信が今後さらに普及していく中で、こうした戦略はより厳格な「人間参加型（human-in-the-loop)」のアーキテクチャを支えるものとなり、被害が発生する前に運用担当者が問題を認識し是正できる体制を確保します。
3年前と比べて、攻撃者のツールキットは具体的にどう変わったのでしょうか。何が新しくなり、何が単に速くなっただけなのでしょうか
速度が増したことの重要性を軽視するつもりはありません。結局のところ、それこそがこのリスクが現実世界で表面化する形であり、速度こそが最も重要な要素です。国家的な攻撃者でさえ、他者に先んじて欠陥を発見し悪用しようと時間との勝負を繰り広げています。ここ1年で脆弱性報告が急増しており、NVDは分類の優先順位を見直さざるを得なくなり、多数の報告済み脆弱性が未分類のまま残されています。報告件数の増加に、単純に対応が追いついていないのです。
しかし、リスク上昇の根本的な要因は単なる速度の問題ではありません。これまでセキュリティ業界が恩恵を受けてきた「能力の非対称性」が失われつつあることこそが本質です。悪用可能な条件を見つけ出し、エクスプロイトを設計・検証し、それを実行に移すには、従来かなりの能力や専門知識が必要でした。AIはその非対称性をほぼ対等に近いところまで縮めてしまったのです。
悪用可能な状況をより迅速に発見できるようになっただけでなく、それを利用する手法についても、本来その能力を持たない者が編み出し実行できるようになり、さらにはその速度が能力を持つ者を上回るケースすら増えています。AIが受け取る文脈情報が増え、モデルがこうしたパターンを認識する精度を高めていくにつれ、この傾向は今後さらに顕著な要因になっていくでしょう。政府による規制などの外部要因を度外視すれば、この非対称性がほぼ解消される可能性は十分にあり、そうなれば問題は人間の性質そのものに関するものへと変わります。つまり、レッドチームの規模がブルーチームと比べてどれだけ大きいかという話になるのです。
セキュリティチームは慢性的な人手不足で知られています。AIはその格差を埋めてくれましたか。それとも、格差の性質そのものを変えただけなのでしょうか
人員体制は常に議論を呼ぶテーマであり、それが変わることはないでしょう。しかし、私は今目にしているAI主導のリスクに対する答えが人員数の増加にあるとは考えていません。Gremlinでは、過去1年間で処理した脆弱性の件数が前年の実に9倍以上に達しましたが、その間、人員体制は変わっていません。これは間違いなく、私たちのプロセスに大きなギャップを生み出しました。主に大規模言語モデル(LLM)とそれを支えるハーネスといったAIツールを活用することで、追加人員なしにこの増加分に対応できただけでなく、平均対応時間(TTR)も5%強削減することができました。
これほどの急増に見合うスループットを、しかも比較的短期間で実現するのは決して容易なことではありませんでした。LLMが提供してくれるものを活用しつつ、進化し続けるシステムに常についていける仕組みを設計するには、経験豊富なエンジニアの力が不可欠でした。しかし、攻撃者側が使っているのと同じツールを取り入れ、その基盤インフラに投資することで、これまでのところ成果を上げています。
AIは、セキュリティ人材を採用する際に重視する点を変えつつありますか。5年前と比べて今、より重要になったスキルは何で、逆に重要度が下がったスキルは何でしょうか
はい、変わりました。これは驚くようなことではないと思います。現在のAIシステムは、多くのエントリーレベルのアナリストやエンジニアに匹敵する成果を出せるほど高い能力を備えています。多くの場合、必要とされるのは経験豊富な運用担当者が、自信満々ながら誤った出力を見抜き、修正することだけです。それには、多様な技術システムに関する知識と経験だけでなく、多くのセキュリティプログラムを支えるコンプライアンスやガバナンス要件についての理解も幅広く求められます。これにより、あらゆる人材に求められる水準が引き上げられ、新しい人材がこうしたAIシステムを効果的に運用するために必要な経験を積むことがますます難しくなるというギャップが生まれています。
さらに、AIシステムへの入力の大部分、あるいはすべてがAIシステム自身によって生成されたものになった場合に起こりうる「モデル崩壊」と、世代を重ねるごとの処理劣化に対する懸念も広がっています。個体群における遺伝的多様性の必要性と同様に、LLMにも入力の多様性が必要であり、それは現時点では人間によるキュレーションを必要とします。現在、私たちはこれを労働力の問題とデータの問題という別々の課題として捉えています。しかし歴史を振り返れば、システムに新鮮な入力をもたらしてきたのはまさに労働力でした。そして今、それが最も必要とされる時期に、私たちはその供給を細らせつつあるように見えます。
単なるマーケティング用語ではなく、最近この分野で本当に心が躍った出来事は何ですか
アプリケーションレベルのセキュリティへの影響は非常にエキサイティングだと思います。AIに厳選された基準やポリシーのリストと照らし合わせて評価させることで、セキュリティ上の懸念をSDLC(ソフトウェア開発ライフサイクル)のかなり早い段階に組み込めるようになりました。ボトルネックとなりがちなレビュー期間を待つのではなく、リアルタイムで懸念点を洗い出し、指針を示せるようになったのです。これにより開発者は、専門家によるレビューを受けながら解決策を提案・実装できるようになり、追加のアーキテクチャや設計要件が開発チームまで逆流してくる事態を避けられるケースが多くなっています。
もはや変化についていくために後追いをしているような感覚はありません。以前は外部の開発チームに依存していた多くの基本的な作業が、今では私のチーム内の副次的なプロジェクトとして扱えるようになりました。明確なレビューさえ行えば「これはLLMに任せられる」とわかっているからです。これは私たちの仕事のペースに大きな違いをもたらしています。
翻訳元: https://www.helpnetsecurity.com/2026/09/17/frederic-bull-gremlin-ai-in-cybersecurity-gap/
