AIハッカーは眠らない ― だから私たちの防御も休めない。デジタルツインがついに、私たちが狩られる前に24時間365日脅威を追跡する助けになるかもしれない。
私は最近、SecTorでプロアクティブな脅威ハンティングについてプレゼンテーションを行い、その後の展示会場で多くの議論が巻き起こりました。展示会場では「AIファースト」のセキュリティベンダーに囲まれ、私が話したCISOや脅威ハンターたちは不安を感じていました。彼らが心配しているのは、AIがスクリプトキディを高度な能力を持つエリートハッカーや、敵対的AIボットの軍団へと引き上げる可能性があり、私たちはその準備ができていない ― 少なくとも今は、ということです。
AIがサイバーセキュリティに大きな可能性を秘めているのは間違いありませんが、実際には、私たちが既に行っていることの自動化に主に使われています。企業が勝機を得るには、最適化されたものではなく、新しいAI主導の防御アプローチが必要です。
非対称性の問題
攻撃者はすでにAIによって劇的に増幅されるシステム上の優位性を持っています。AIが防御に使える素晴らしい例もありますが、これらの手法が逆に使われた場合、壊滅的な結果を招く可能性があります。例えば、XBOWは同名のスタートアップが開発した自律型ペンテストボットです。これはセキュリティ製品として非常に優れています。今年の夏、バグバウンティの歴史上初めて、XBOWの自律型ペネトレーションテスターが数か月連続でHackerOneのリーダーボードのトップに立ちました。
そのペンテストボットは完全に自律的でしたが、それでも人間が関与していたことは重要なポイントです。HackerOneが提出前に発見内容の人間によるレビューを要求しているだけでなく、XBOWはスキャンの優先順位付けを支援するための専門インフラも構築していました。それでも、その発見は印象的で、Palo Alto NetworksのGlobalProtect VPNソリューションに存在していた未知の脆弱性を発見し、2,000台以上のホストに影響を与えました。XBOWがどのようにこれを成し遂げたか、また実務者がどう反応したかをぜひ読んでみてください。
明らかに、AIはペンテストを飛躍的に加速させ、人間なら数時間から数日かかる作業を数分で完了できます。しかし、企業は依然としてパッチを適用する必要があります。そしてご存じの通り、ツールが増えればアラートも増えます。AIは優先順位付けに役立ちますが、現実にはほとんどの企業が完全な自動修復に必要な可視性やコンテキストを持っていません。
これはIDS対IPSの時代からの課題であり、今も続いています。脅威の検出と検証だけでなく、特に複雑な環境下で企業がどれだけ迅速に対応できるかが重要です。
かつて私は、100万台のエンドポイントを持ち、毎日5万台のサーバーが立ち上げ・停止される企業で働いていました。その5万件のイベントのすべてが環境に波及効果をもたらしていました。別の会社では、2,000件のLog4jインスタンスにパッチを当てる必要がありました。多くの同業者と同じく、どのインスタンスが最も大きな脅威となるか分からなかったため、まずインターネットに面したシステムからパッチを当て、次に内部システムへと移りました。おそらく多くのインスタンスは無害だったでしょう。しかし、判断する術がなかったため、すべて修正するしかありませんでした。
その規模でコンテキストを得るのは困難です。ほとんどの企業は複数の防御レイヤーを持っていますが、それぞれに欠陥があります。攻撃者はそれらの弱点を突いて攻撃経路を作り出します。問題は、私たちは彼らより先にその経路をどう見つけるか、ということです。
このことを踏まえて、悪意ある人物がXBOWのようなツールをどう利用できるか考えてみてください。またはHexstrike-AI ― 多くの専門AIエージェントを調整して大規模な複雑な作戦を実行するためのオーケストレーションおよび抽象化レイヤーとして機能するエージェント型防御ツールです。これはハッカーによって乗っ取られ、NetScaler ADCおよびNetScaler Gatewayアプライアンスに影響する3つのゼロデイ脆弱性を開示から12時間以内に悪用されました。
これで、なぜ私たちがこれほど懸念しているのかお分かりいただけたでしょうか？
アイデンティティの問題
敵対的AIボットのもう一つの大きな問題は、発見が難しいことです。多くの攻撃者は侵入しません ― ログインするのです。認証情報の悪用は攻撃者が標的に侵入する主な手段であり続けています。なぜなら、人間は依然としてフィッシングに騙されやすく、最小権限アクセスの実現は難しい課題だからです。そして、少し進展が見られたと思った矢先、オンプレミスからクラウドネイティブITへの移行のような大きな技術革新が技術的負債や複雑性、新たなリスクを追加します。まさにモグラたたきゲームです。
ボットはアイデンティティセキュリティをさらに複雑にします。なぜなら、人間が自分の代理としてエージェントが行動することに同意するからです。しかし、エージェントも人間同様に権限過剰になり得ます。これにより、ハッカーが正規のエージェント ― 個人や企業の代理として行動する権限を持つもの ― を乗っ取り、その意図を悪用する道が開かれます。
さらに、ボットは24時間365日稼働し、疲れることなく防御をすり抜けます。防御側のボットもこのフィールドで対抗しなければなりません。敵対的ボットと同じくらい賢く、リアルタイムでエージェントの行動が意図と一致しているか判断できる必要があります。ほとんどのサイバー露出が人為的ミス ― 偶発的な内部脅威 ― によって引き起こされていることを考えると、防御ボットはユーザー自身からも守る必要があります。2025年版Verizon DBIRによれば、侵害の60%は人為的ミスが関与しています。
セキュリティにおけるデジタルツインの可能性
ここまでで、なぜ段階的な改善では不十分なのかをご理解いただけたと思います。私は、それらが役立たず歓迎されないと言っているのではありません。ただ、それだけでは均衡を保てないと考えています。しかし、私が期待している有望な分野の一つが、リアルタイム脅威モデリングへのデジタルツインの活用です。
デジタルツインはもともと物理的なツインとして始まりました。NASAがアポロ13号の酸素タンク爆発後、宇宙船内の状況を評価・シミュレーションするために開発したものです。デジタルツインは、地球から20万マイル離れた宇宙飛行士が直面していた技術的問題のトラブルシューティングに不可欠な役割を果たし、彼らを無事帰還させるのに貢献したと広く評価されています。
「ツイン」コンセプトは物理からデジタルへと徐々に進化し、2020年にはIoTデバイスが成熟し、複雑な環境を再現できるセンサー技術として十分に発展したことで大きく進展しました。これにより、ロボティクス、製造、ヘルスケア ― 手術のシミュレーションからがん治療の最適化まで ― そしてもちろんIT分野での活用が広がりました。
大規模企業の防御には、パッチ適用やバックアップなど、終わりのない単調な作業が伴います。自動化は助けになりますが、環境の変化 ― たとえ良いものであっても ― は、防御側に見えないクリティカル資産への新たな攻撃経路を生み出すことがあります。デジタルツインは、どの攻撃経路が最もリスクが高いかをチームが迅速に把握し、既存ツールよりもはるかに効果的に修復の優先順位付けを行うのに役立ちます。
AIボットとデジタルツインで24時間365日セキュリティに注力
私はよく「私たちは知らない問題を解決できない」と言います。だからこそ、プロアクティブな脅威ハンティングが重要なのです ― 脅威を探さなければ、見つかりません。XBOWのエージェント型AIボットが示したように、人間ベースの脅威ハンティングは人間の能力、時間、生産環境での摩擦によって制限されます。デジタルツイン内でAIボットを活用することで、生産環境に影響を与えることなく、継続的かつマルチスレッドな脅威ハンティングと攻撃経路の検証が可能になります。これは、セキュリティやITチームが直面する優先順位付けの課題に本質的に対応します。
実際、デジタルツインは、55年以上前にNASAの科学者たちが物理的ツインから得たのと同じ恩恵をセキュリティチームにもたらします。つまり、特定の変更が大規模で複雑かつ非常に動的な攻撃対象面にどのような影響を与えるかを正確にシミュレーションできるのです。さらに、防御側がこれまでにない方法で状況を可視化できるようUXが進化することを想像するとワクワクします。
大きく考えよう
AIは本当に変革的な技術であり、今後数年でAI防御がどのように進化するかを考えると非常に楽しみです。プロダクト開発者には大きく考えることを勧めます。なぜサイエンスフィクションからインスピレーションを得てはいけないのでしょうか？フィリップ・K・ディック、ウィリアム・ギブスン、アイザック・アシモフ、ニール・スティーヴンスンから、ジュール・ヴェルヌのような100年先を描いた作品まで、アーティストや未来学者の洞察で私たちの想像力を豊かにできます。
悪意あるAIとの戦いにおいて、私は私たちの人間性こそが最大の資産になると楽観しています。私たちが概念化できれば、AIはそれを実現する手助けをしてくれるでしょう。
この記事はFoundry Expert Contributor Networkの一部として公開されています。
参加希望はこちら
