ゼロトラストの生みの親、AI支援型攻撃にもモデルは揺るがないと主張

AI時代にゼロトラストは今も有効なのでしょうか。ジョン・キンダーバグ氏の新著は「有効」と答えていますが、それは正しく実装されていればの話です。

ジョン・キンダーバグ氏は2010年、Forrester Researchのレポート「No More Chewy Centers: Introducing the Zero Trust Model of Information Security」で、ゼロトラストの概念を初めて提唱しました。以来、この概念はサイバーセキュリティの基本原則の一つとなっています。それから15年を経て、同氏はAI時代のゼロトラストをテーマにした新著の執筆を依頼されました。

最大の問いは、15年前に生まれたセキュリティ原則が、AIを活用した新たな脅威にも通用するのかという点です。 

この問いへの答えとなる書籍『Cyber Resilience at Machine Speed: The Zero Trust Model for the AI Era』が刊行されました。キンダーバグ氏は単独で執筆せず、主要な原則ごとに専門家を招いて各章を担当してもらいました。そのため全体のまとまりはやや欠けるものの、内容は専門家ならではの充実ぶりです。

寄稿した専門家たちが口をそろえる結論は、ゼロトラストは現代のAI攻撃に対しても、現代的なAIが登場する前の15年前と変わらず有効だというものです。要するに本書は、AIによる脅威は本質的に従来と同じ脅威であり、速度、巧妙さ、規模が増しただけだと主張しています。そして、ゼロトラストはこれに対処できるとしています。

自律型AIエージェントに加え、暴走した自律型エージェントや、AIが発見した脆弱性に対するAI製のエクスプロイトまで存在する新しい世界では、これは大胆で、おそらく意外な主張です。Hugging Faceのインシデントは、その象徴的な例です。暴走した自律型エージェントが開発元（今回はOpenAI）の管理下から脱出し、人間の指示がないまま第三者（今回はHugging Face）を攻撃しました。 

 700を超えるエージェントの群れが、自らのネットワーク隔離を破る方法を見つけ出してインターネットに脱出し、標的にHugging Faceを選びました。エージェントらは連携してテンプレートインジェクションの欠陥やリモートコード実行の経路を悪用し、ノードレベルのアクセス権を獲得しました。さらにクラウドの認証情報を収集し、企業の内部クラスタ間で横展開（ラテラルムーブメント）を行いました。最終的に、人間が通常とは異なるアクティビティの急増に気づいたことで検知されました。ゼロトラストの原則が守られていれば、攻撃はもっと早い段階で止められたはずです。そうなると、Hugging Faceはゼロトラストを導入していなかったか、導入が不十分だった可能性があります。

SecurityWeekはこの事例などを引き合いに、ゼロトラストはAI時代にも通用するというジョン・キンダーバグ氏の主張に疑問をぶつけました。同氏は次のように答えています。「もちろんAIはますます高度になっていきます。モデルは14日ごとに新しい能力を獲得しているように見えます。Anthropicも最近、新規株式公開（IPO）の目論見書で、AI技術が人類に壊滅的あるいは存亡に関わるリスクをもたらしうると警告しました。しかし、AIが生成したパケットであっても、攻撃者が昔から通過しなければならなかったものと同じネットワークを通る必要があります。正しく実装されたゼロトラストなら、それを今でも止められます」

ここで重要なのは「正しく実装された」という部分です。ゼロトラストの頭脳は、ポリシーエンジンです。ポリシーエンジンは、ゼロトラストをいつ、どのように適用するかというルールを制御します。ポリシーエンジンは、各組織が自社のセキュリティ態勢を反映して独自に設計・構築するものです。しかも態勢は時間とともに変化するため、更新できなければなりません。 

したがって、正しい実装を脅かす要因は二つ考えられます。第一に、エンジンが組織のセキュリティ態勢を完全かつ正確に反映していなければなりません。反映できていなければ、AIエージェントが突破口を見つける可能性が高くなります。第二に、ポリシーエンジンを、暴走したエージェントや悪意ある内部関係者による操作から十分に保護する必要があります。そうした操作によって、攻撃の通り道が理論上は確保されかねないためです。どちらの防御要件も実現は可能ですが、正しく仕上げるのは容易ではありません。

つまり、AI時代にもゼロトラストは揺るがないという本書の主張は正確です。ただし、それは正しい実装が行われた場合に限ります。この点は昔から変わりませんが、今ではより重要になっています。今日のAI時代の違いは、正しく実装できなかった場合の影響が壊滅的になりうることです。しかも、人間の管理では検知も阻止も間に合わない速さで被害が進みます。キンダーバグ氏の著書が本当に伝えたいメッセージは、「正しくやり遂げよ！」ということです。