エージェント型AIは、企業のAI環境における主要なワークロードとして台頭しつつあります。問われているのは、こうしたエージェントが意図したとおりに動作し、暴走して新たなセキュリティ上の脅威を生み出さないかどうかです。エージェント型AIは、組織が直面するIDの制御とガバナンスの課題をさらに複雑にします。エージェントがエージェントを生み出す時代には、事業ニーズに効果的に応えながら、堅牢なセキュリティを確保できる機能を検討する必要があります。
エージェント型AIは、現時点では主要なAIワークロードではないかもしれませんが、まもなくそうなるでしょう（もちろん、推論が首位を維持することに変わりはありません）。理想的な世界であれば、これらのエージェントは計画どおりにタスクを遂行します。しかし現実は理想的ではなく、エージェントがすでに暴走し、独自の使命感を持つようになり、攻撃者と化した事例も出ています。エージェントに悪意がない場合でも、制御と可視性は欠かせません。セキュリティのためだけでなく、トークン経済の最適化、制御範囲の監視、事業継続性の維持のためにも重要です。
組織には今、適切にガバナンスを効かせられる、堅牢なセキュリティ機能を組み込んだ安全なエージェント型AIソリューションを開発・展開することが求められています。
エージェントはユーザーではない
AIは、サイバーセキュリティに活用できる最も強力なツールの一つといえます。同時に、重要なIT資産に対する武器としても、最も危険なツールの一つになり得ます。HPEネットワーキング部門のCTOであるJon Green氏は、「自社製品の脆弱性をAIで見つけられるなら、攻撃者にも同じことができる。これは不都合な真実だ」と述べています。
では、堅牢なセキュリティ機能を組み込み、適切にガバナンスを効かせられるエージェントをどう構築すればよいのでしょうか。エージェントの振る舞いを監視することに優れたガードレールは、どう実装すればよいのでしょうか。エージェント型AIの根本的な前提は、コードの実行、データアクセス、API呼び出しといった重要な要素を制御下に置くことです。そのためには、十分に整備されたセキュリティ基盤が必要です。
エージェントにはIDがありますが、ユーザーと同じではありません。エージェントの振る舞いを、人間と同じ種類のプロセスや制御で統制することはできません。エージェントはユーザーに代わって動作します。もちろん、エージェントが 暴走し、開発者が想定しなかった形で権限やタスクをエスカレーションすることもあります。ただし、それは対処すべきセキュリティリスクの一つにすぎません。
適切に開発されたエージェントは、それぞれが認証情報に基づく一連の制御の下で動作します。こうしたID制御の仕組みは、保護策が完璧に実装されていれば、エージェントの無秩序な増殖（スプロール）やさらなる暴走を抑えられるはずです。しかし、それを実現するのは非常に困難です。
安全なエージェント開発の課題
多くのデジタル資産は複雑化と肥大化が進み、最良のシナリオであってもAIセキュリティを効果的に管理するのは困難です。
セキュリティ対策はエージェントの開発段階から始まります。プログラマーがエージェントとして実行されるコードを書く際には、さまざまなエージェント構築技術を利用します。次に、コードの欠陥を確認・修正するために、エージェントを送り込むサンドボックスや審査機関のような仕組みが必要です。開発プロセスには、エージェントの任務を指示し、ガードレールを定めるポリシー機能も含まれます。理論上、これによってエージェントが暴走したタスクを実行することを防げます。
しかし、正当な意図をもって慎重にプログラムしたエージェントであっても、悪意ある形で動作する可能性があります。そのため、エージェントの振る舞いは、IT基盤全体にわたる複数層のセキュリティツールで監視する必要があります。セキュリティの専門家が「多層防御」と呼ぶアプローチです。ITチームとセキュリティチームは、IT資産全体を可視化できなければなりません。これにはネットワークレベルでの監視と検知も含まれます。エージェントの活動をほぼリアルタイムで確認できるのは、ネットワークだからです。ネットワークはエージェントの振る舞いを監視し、暴走した活動を警告する最前列の特等席にあります。
ガバナンス上のもう一つのリスクがシャドーAIです。この場合、問題となるのはエージェントの暴走というより、ユーザーがIT部門の管理やプロセスの外で、使いやすいエージェント構築機能にアクセスしてしまうことです。承認されていない開発や利用によって、AIエージェントが監視を受けないままシステム内を動き回るようになります。その結果、エージェントセキュリティソリューションが組織を守ることは、いっそう難しくなります。
サードパーティ製エージェント
リスクは自律型エージェントやシャドーITだけではありません。サードパーティ製エージェントもセキュリティ上の脅威です。定義上、組織とそのセキュリティ制御の外部から来るものだからです。自社向けに特別に構築されたものであっても、サードパーティ製エージェントが組織のセキュリティ基準に準拠しているとは限りません。組織が所有していないインフラ上で動作している場合もあります。
組織向けにサードパーティ製エージェントを保護する際には、社内のエージェントと同じ厳格なセキュリティテストと検証を課すべきです。そうすれば、社内のエージェントと同等のガードレールとガバナンスを適用できます。
まとめ
ガードレールはAIエージェントの境界と制約を定めるものですが、包括的なセキュリティには、エージェントの行動経路のあらゆる段階で可視化と監視を行う多層防御が必要です。ただし、可視化は最初の一歩にすぎません。標準的なエージェントのセキュリティ制御では不十分な場合に備え、IT基盤はポリシーの適用、権限の制限、データ保護も担うべきです。サーバー、ストレージ、ネットワークを含むIT基盤を中心としたセキュリティのエコシステムが連携し、エージェント型セキュリティに対するより包括的なアプローチを提供する必要があります。
