AIはサイバーセキュリティの「格差」を縮められるか

Amazon Web Services(AWS)では、人工知能がかつて数か月を要していたセキュリティ作業をすでに数分にまで圧縮しています。

AWSの最高セキュリティ責任者(CSO)であるスティーブ・シュミット氏がCSOに語ったところによると、これまでは人間のレッドチームが脆弱性を発見し、報告書を作成・推敲したうえで、ようやく防御担当者に引き渡し、そこから検知や修正の構築が始まるという流れだったといいます。このプロセスには「2か月、4か月、6か月、8か月、10か月」かかることもあったとシュミット氏は述べています。

「しかし今では、AIを適切に活用することで、レッドチームが発見した問題に対する検知の仕組みを15分程度で構築できるようになりました」と同氏は語ります。「長くかかっても4時間程度だと思います」

こうしたワークフローは、最も高度なセキュリティ組織にとってAIが何を可能にし得るかを垣間見せてくれます。AIエージェントがシステムをテストし、別のAIエージェントが防御策を生成し、人間のセキュリティエンジニアが結果を検証してフィードバックループを改善していく、という形です。

しかしこれは、それ以外の業界全体にとって、より不都合な問いも投げかけます。それに近いことすらできない組織はどうなるのか、という問題です。

この懸念は無視できないレベルに達しており、トランプ政権は最近、地方の病院、地域銀行、地元の公益事業体といった資源に乏しい組織に対し、AIを活用したサイバーセキュリティ機能へのアクセスを拡大するよう各省庁に指示しました。

この大統領令は、サイバーセキュリティ分野に長年存在してきた分断——資金、専門知識、エンジニアリングの厚みを持つ組織と、基本的なセキュリティ要件にすら追いつくのに苦労している組織との分断——をAIがさらに深めかねないという懸念の高まりを反映しています。

とはいえ、セキュリティ業界のリーダーや実務担当者の間では、AIがもたらす影響は単純な格差拡大にとどまらない、より複雑なものになるとの見方が示されています。一部の専門家は、AIは長年続く「セキュリティの貧困」問題に新たな層を加えているに過ぎないと指摘します。一方で、AIはかつて一部の有力組織にしか手の届かなかった能力を民主化し得ると主張する専門家もいます。さらに別の専門家たちは、現在の格差は現実のものではあるが、モデルが安価になり、オープン化が進み、実行しやすくなるにつれて一時的なものにとどまる可能性があると見ています。

階級による分断はすでに存在していた

Blumiraの共同創業者兼CTOであるマット・ワーナー氏にとって、AIがサイバーセキュリティに階級間の分断を生み出しているという前提そのものが、重要な点を見落としています。それは、その分断がすでに存在しているという事実です。

「むしろ、この10年から15年の間、階級による分断はずっと存在してきたと言ってもいいでしょう」とワーナー氏はCSOに語ります。

同氏によれば、AIが変えるのは分断の有無そのものではなく、その分断がどれほど鮮明になるかだといいます。大規模な組織には、AIを試すための資金、人材、時間があります。一方、小規模な組織にはそれらが往々にして不足しています。

「私たちが目にしている大きな違いは、特に私たちが身を置く立場から見ると、何よりもAIを活用するための資源と時間を持っているかどうかの差が、より顕著になってきていることです」とワーナー氏は述べます。

この違いが重要なのは、すでに多くの小規模組織が手一杯の状態にあるためです。ワーナー氏は、資源の乏しい地方自治体や、大企業に比べて基本的なITおよびセキュリティの成熟度が大きく遅れている中小・中堅規模の組織を例に挙げています。

「ミシガン州のある郡では、2,000人の従業員に対してIT担当者がわずか2人、という例を挙げることもできます」とワーナー氏は言います。「そうした人たちには、AIを使いこなす方法を学ぶ時間すらありません。ほとんどの時間を火消しに追われているからです」

この問題はAI特有のものではありません。小規模組織は以前から、限られた人員でシステムのパッチ適用、脆弱性の優先順位付け、環境の監視、インシデント対応を行うのに苦労してきました。AIはいずれ助けになるかもしれませんが、それはそうした組織にAIを導入するだけの余力がある場合に限られます。

ウェンディ・ネイザー氏のフレームワークにAIという新たな層が加わる

Google Cloudのオフィス・オブ・ザ・CISOでセキュリティアドバイザーを務めるアントン・チュバキン氏は、AIによる分断をはるかに古くからある問題の一部として捉えています。

「これは、ウェンディ・ネイザー氏が『セキュリティ貧困線』という概念を生み出した時代に引き戻されるような感覚です」とチュバキン氏はCSOに語ります。これは、効果的なセキュリティを実装するための資金、専門知識、能力、あるいは影響力を欠く組織を表す、ネイザー氏の2011年の概念を指しています。

チュバキン氏は、AIがこのモデルを根本的に変えるとは考えていません。「AIが必ずしもこのモデルを崩すとは思いません」と同氏は言います。「むしろ、そこに新たな一次元を加えるだけだと思います」

チュバキン氏によれば、サイバーセキュリティは常に、トップクラスの人材、ツール、サービスへの不平等なアクセスによって形作られてきたといいます。大企業はより高度なSIEM導入、先進的なDLPプログラム、脅威ハンターやアプリケーションセキュリティの専門家、インシデント対応の顧問契約などに資金を投じることができました。しかし小規模組織には、それができないことが多かったのです。

AIも新たな希少資源の一つになるかもしれませんが、チュバキン氏はモデルのコストだけを過大視することには慎重な姿勢を示しています。同氏の見立てでは、より大きな構造的課題は人材であり、トークン(利用コスト)そのものではないといいます。

「人材の価格は下がりませんが、LLM(大規模言語モデル)の価格は下がるかもしれません」と同氏は考えています。

つまり、最大の優位性を持つのは、単に最も高価なモデルを使える組織ではなく、そのモデルの使い方を知る人材を雇える組織だということです。そして後述するフロンティアモデルへのアクセスをめぐる議論が示唆するように、この人材の格差は、モデルへのアクセス自体の格差よりも根深く残る可能性があります。

AIは新たなコストと新たな不確実性を生む

現在は1Passwordでシニア・リサーチ・イニシアチブ・ディレクターを務めるネイザー氏自身は、AIがセキュリティ貧困線のあらゆる側面——資金、専門知識、能力、影響力——に影響を及ぼすと見ています。

財政的な課題は、組織がAIツールの費用を支払えるかどうかだけにとどまりません。場合によっては、エンタープライズ向けライセンスを購入できない組織が、プライバシーに関して妥協を迫られることもあります。

「利用しているモデルのエンタープライズライセンスを購入する余裕がない組織は、自分たちのデータを非公開に保つことができません」とネイザー氏はCSOに語ります。「つまり、プライバシーを確保する余裕がないために、プライバシーそのものを諦めざるを得ないのです」

これは、貧困線という概念の古くからある側面に新たな捻りを加えるものです。資源に乏しい組織は単に何らかの能力を欠いているというだけでなく、それらの組織が手に入れられる能力には、裕福な組織なら負わずに済むリスクが付随してくる、ということです。

トークン単位の課金は、さらに別の問題を生みます。予測不能性です。「現時点では、いつどれだけのトークンを消費することになるのか、誰にも分かりません」と同氏は言います。

これは、予期しないコストを吸収する余力のない組織にとって、予算編成を難しくします。ネイザー氏はさらに、使用量に応じた課金体系はプロバイダー側が管理しており、時間とともに変化し得るため、顧客側の交渉力は限られていると警告します。

「課金の仕組みはプロバイダーの手中にあり、いつでも変更され得るのです」と同氏は述べます。

すでにセキュリティ貧困線を下回る状態で活動している組織にとって、この不確実性は、たとえ技術自体の能力が向上したとしても、AI導入をより困難にする可能性があります。

フロンティアモデルへのアクセス格差は一時的なものかもしれない

KaseyaでセキュリティスイートのSVP/GMを務めるデイブ・バゲット氏も、特にフロンティアモデルへのアクセスをめぐって、現在まさにセキュリティの階級格差が現実化しているという見方に同意します。

「Mythosに関しては特に、持てる者と持たざる者の問題が明確に存在します。ほとんどの人がこれを手にしていないからです」とバゲット氏はCSOに語ります。しかし同氏は、この格差が長期にわたって影響を及ぼすとは考えていません。オープンウェイトモデル、量子化技術、混合エキスパート(MoE)アーキテクチャ、そして年々性能を高めているコモディティハードウェアが、多くの人が予想するよりも速いペースでこの格差を縮めつつある、と同氏は主張します。

すべての組織がフロンティアモデルを自前で構築できるわけではないものの、より多くの組織が有能なモデルをローカルで実行したり、今日の最先端モデルに近い性能を発揮する安価なシステムを利用したりできるようになるだろう、と同氏は述べています。

「脆弱性発見という点で言えば、その段階に至れば、オープンソースを扱う人々もこうしたツールを実行できるようになります」とバゲット氏は言います。「そうなれば、オープンソースを書いている防御側も、攻撃者が使うのと同じツールを実行し、問題を修正できるという、対称的な状況に戻ることになります」

同氏の結論は、この格差は現実のものではあっても、長続きはしないだろうというものです。「今まさに、持てる者と持たざる者の分断は確かに存在しています。しかし、それが長く続くとは限りません」とバゲット氏は語ります——この見方はチュバキン氏も共有していますが、同氏はオープンソースというよりも、モデル市場全体という文脈でこれを捉えています。

「価格が下がるという話というより、むしろこういうことです。あなたはトップティアのモデルメーカーで、私はセカンドティアのモデルメーカーだとします。1年後には、私のモデルがあなたの1年前のモデルと同等のことをできるようになる、というイメージです」とチュバキン氏は語ります。

真の優位性は「運用の厚み」にある

シュミット氏によるAWSでのAI活用の説明は、もう一つ別種の分断を浮かび上がらせます。それはAIへのアクセスの有無ではなく、AIを実際の運用に落とし込める能力の有無です。

AWSはタスクごとに複数のモデルを使い分けている、とシュミット氏は言います。あるモデルが脆弱性を発見する一方で、別のモデルが結果を検証したり、防御策の構築を助けたりします。生成された結果を評価する責任は、あくまで人間が担い続けます。

「私たちは、AI活用における一連のプロセス全体を通じて人間が責任を持つべきだと強く信じているため、システムが導き出した結果が妥当かつ適切かどうかを、今でも人間が確認するようにしています」と同氏は語ります。

このワークフローに必要なのは、モデルだけではありません。企業データ、安全なインフラ、フィードバックループ、そして連携して働けるセキュリティエンジニア、データサイエンティスト、AI専門家が必要です。

シュミット氏はまた、高性能なコンシューマー向けハードウェア上でAIをローカル実行することが、本番運用レベルのセキュリティインフラの代替になるという考えにも異を唱えています。「多くの場合、モデルの価値はデータとの近さにも左右されます。モデルがデータを取り込み、利用し、それについて推論できる必要があるからです」と同氏は言います。「セキュリティ担当者としては、それがあなたのノートパソコンの中で行われることは望みません」

ノートパソコン上での実験は有用だが、それは安全な本番環境とは別物だ、とシュミット氏は言います。

「私は、データを自分が制御でき、見ることができ、把握できる安全な場所に置いておきたいのです。あなたのノートパソコンの中に置いておきたくはありません」と同氏は述べます。「そこで実験をするのは、素晴らしいことです。それは結構なことです。しかし、それは本番インフラの構成要素ではありません」

この違いこそが、新たに生まれつつあるAIセキュリティ格差を定義づけるものかもしれません。多くの組織はAIツールにアクセスできるようになるでしょう。しかし、それを実際のセキュリティ業務に安全に統合できる組織は、はるかに少数にとどまるでしょう。

「民主化」を主張する論者たち

Ballistic Venturesのパートナーで、Google Cloudの元CISOであるフィル・ヴェナブルズ氏は、最も楽観的な見方を示しています。

AIが、資源に恵まれたセキュリティ組織とそうでない組織との格差を広げているのではないかと問われたヴェナブルズ氏は、CSOに対し「いいえ、むしろ私は正反対だと考えています」と答えています。

その理由は、AIが専門知識と自動化を、幅広く提供できる形にパッケージ化しているからだ、と同氏は主張します。「AIの素晴らしい点の一つは——そしてこれはすでに現実に起き始めていることですが——能力を民主化する力を持っていることです」と同氏は言います。「AIは、これまでの技術の波が成し得なかったレベルで専門知識と自動化能力をパッケージ化し、これまでそうしたものに手が届かなかった組織にも大規模に提供できるようにしているのです」

同氏はその一例としてレッドチーム演習を挙げます。ほぼすべての組織が世界クラスのレッドチームを持ちたいと望んでいますが、それを実際に持てる組織はごくわずかです。

「地球上のほぼすべての組織が、攻撃者に先んじて問題を見つけ修正するために、自社のセキュリティを常時テストしてくれる世界クラスのレッドチームを持ちたいと願っています」とヴェナブルズ氏は言います。「しかし、実際に高水準のレッドチームを構築できるだけの資金を持つ組織は、これまでごくわずかしかありませんでした」

AIエージェントは、そうした能力をより経済的な形で利用可能にし得る、と同氏は主張します。同様のパターンは、インサイダー脅威、サードパーティリスク、ソフトウェアセキュリティ、ガバナンス・リスク・コンプライアンス(GRC)、セキュリティオペレーションにも当てはまり得ます。

「ですから、最も小規模で資源に乏しい組織であっても、今や高水準の能力にアクセスできるようになるのです」と同氏は主張します。

ただし、ヴェナブルズ氏も危険な領域があることは認めています。それは、AI導入に積極的な組織の中で、資源が不足しているセキュリティチームです。そうしたチームは、事業全体が急速にAIを取り入れていく中で、その速度についていくのに苦労する可能性があります。しかし、多くの中小規模組織にとっては、AIがこれまで手にできなかったセキュリティ能力へのアクセスを改善してくれるはずだ、と同氏は考えています。

分断の本質はAIか、それとも「備え」か

有力組織にとって、AIはすでに力の増幅装置になりつつあります。優れたエンジニアリング人材、成熟したデータインフラ、強固なガバナンスを備えたセキュリティチームは、AIを活用してテスト、検知エンジニアリング、脆弱性発見、リスク管理を加速させることができます。

一方、小規模組織にとっての展望は、それほど明確ではありません。AIはいずれ、希少な専門知識を手頃な価格のサービスとしてパッケージ化するかもしれません。オープンなモデルは、高価なフロンティアシステムへの依存を減らすかもしれません。しかし、セキュリティ貧困線を下回る組織は依然として、人員不足、時間不足、専門知識の欠如、予測不能なコスト、ベンダーに対する交渉力の弱さといった、おなじみの制約に直面し続けています。

したがって、新たに生まれつつある分断は、誰がAIにアクセスできるかというよりも、誰がAIを持続的なセキュリティ成果へと転換できるか、という問題に近いのかもしれません。

これにより、サイバーセキュリティ業界が直面する問いは、AIが「持てる者」と「持たざる者」を生み出すかどうか、という単純な話以上に複雑なものになります。業界にはすでにその両者が存在しているからです。

本当に問われているのは、AIがすでに有利な立場にある組織をさらに優遇する技術となるのか、それとも、貧困線を下回る組織がついに追いつく助けとなる、ここ数年で最大級のセキュリティ上の進歩となるのか、という点なのです。