AIエージェントのセキュリティ:指示だけでは不十分な理由

企業が自律性を高めたAIエージェントの導入を進めるなか、既存のネットワークセキュリティの弱点によって、これらのシステムが本来の責務を超えて動作してしまう恐れがあります。

従来のAI向け安全対策では、こうしたリスクに十分対処できない可能性があります。特に、ネットワークアクセスポリシーが過度に緩い場合は注意が必要です。

最近、NIST、CISA、NSAが共同でガイダンスを公表しました。高度な能力を持つAIシステムに対するインシデントへの備えと対応を扱った内容です。

筆者はFireMonのプロダクトマネジメント担当ディレクターであるDan Rheault氏にメールで取材しました。このガイダンスから組織が学べること、そしてAIエージェントに大きな自律性を与える前にセキュリティチームがネットワークをどう整えるべきかについて聞いています。

AIエージェントは既存のネットワークセキュリティの弱点を増幅する

「エージェントに期待される振る舞いは、強制力のあるセキュリティ境界ではありません」とRheault氏は説明します。エージェントへの指示を、独立して強制されるセキュリティ制御と混同してはならないと強調しています。

連邦政府のガイダンスは、主に高度なAIの訓練と評価を対象としています。それでもRheault氏は、その根底にあるセキュリティ原則は企業での導入にも当てはまると考えています。

AIエージェントは新たなリスクをもたらします。自律的に判断を下しながら、企業システムへの広範なアクセス権を持つ場合があるためです。

さらに、マシンの速度で行動を実行できることから、ミスがもたらす影響も大きくなります。たった一つの指示が、相互接続されたシステム全体で複数の動作を引き起こし、本来のワークフローを超えて影響が広がる可能性があります。

たとえば、レポート作成を担うAIエージェントが、本番環境の管理インターフェースにもネットワーク経由で到達できるケースが考えられます。エージェントがその接続を一度も使わなくても、接続が使える状態にあること自体が不要なリスクを生みます。

Rheault氏は、実際に観測されたネットワークトラフィックだけに頼らず、到達しうるアクセス経路を調べるよう推奨しています。セキュリティチームは、エージェントがすでにアクセスしたシステムだけでなく、アクセスできるシステムを把握する必要があります。

過度に緩いポリシーが攻撃対象領域を広げる

長年積み重なったファイアウォールルールや古いアクセスポリシーは、自律型AIエージェントを導入する際に大きな課題となります。文書化されていないネットワーク接続があると、不要な露出を特定する作業はさらに難しくなります。

在庫情報の取得を任されたエージェントが、アプリケーションサブネット全体へのアクセス権を引き継いでしまうこともあります。その場合、無関係なデータベースや管理インターフェースまで露出しかねません。

ネットワークに接続できるだけで、エージェントがそれらのシステムを変更する権限を得るわけではありません。しかし、アプリケーション権限が過剰であれば、不正な操作が可能になる恐れがあります。認証情報の漏洩や悪用可能な脆弱性が重なる場合は特に危険です。

Rheault氏は、各エージェントの業務上の目的と、割り当てられたタスクの遂行に必要なネットワーク経路やサービスを対応付けるよう勧めています。アクセスを許可する前に、必要なアイデンティティと権限も洗い出すべきだとしています。

テストは、エージェントが割り当てられた責務を果たせるかの確認だけにとどまってはなりません。

「タスクを無事に完了できれば、エージェントに十分なアクセス権があることは証明できます。一方で、権限が過剰でないことを確認できるのはネガティブテストです」とRheault氏は述べています。

従来のネットワークセキュリティには追加の強制レイヤーが必要

従来のファイアウォールやネットワーク制御は今も有効です。ただしRheault氏は、AIエージェントが実行するすべての動作が許可されたものかどうかを、それらだけで判断することはできないと警告します。

エージェントが承認済みのAPIに正当に接続しながら、割り当てられた責務の範囲外の操作を試みることも起こりえます。

そのため組織には、ネットワークアクセスを制限し、アイデンティティベースの権限を強制する、連携したセキュリティ制御が必要です。アプリケーションの認可やツール単位の制限は、不正な操作に対する追加の防御策になります。

ハイブリッド環境では、強制の難易度が上がります。クラウドのセキュリティ制御が従来のファイアウォールポリシーと異なる場合があるためです。ワークロード単位のポリシーが加わると、アクセス管理の一貫性がさらに損なわれる恐れもあります。

セキュリティチームは、承認された業務活動とエージェントのアイデンティティとの関係を明確に定める必要があります。この関係では、各エージェントが必要とするアプリケーション権限とネットワーク接続も定義すべきです。

インシデントの封じ込めは導入前にテストが必要

共同ガイダンスは、影響を受けたシステムが稼働を再開する前に、封じ込めを検証することを重視しています。

Rheault氏は、影響を受けたワークロードを隔離し、外向きのネットワーク接続を制限する能力を事前に整えておくよう勧めています。さらに、エージェントの実行を停止し、関連する認証情報を失効させて、不正な活動の拡大を防げるようにしておくべきです。

セキュリティチームは、更新したルールがすべての通信を即座にブロックすると思い込んではいけません。ファイアウォールの変更によって既存の接続が確実に切断されることを確認する必要があります。

影響を受けたエージェントを再起動する前に、組織は隔離された環境で問題の挙動を再現すべきです。そのうえで、禁止された接続が失敗し、正当な業務が妨げられないことを検証しなければなりません。

また、監視アラートが正しく機能することも確認すべきです。加えて、更新したセキュリティ制限を別のネットワーク経路で迂回できないことも、テストで確かめる必要があります。

自律型AIエージェントを守るための3つの優先事項

Rheault氏は、自律型AIエージェントを導入する前に組織が取り組むべき優先事項として、次の3点を挙げています。

  • 可視性の確立:各エージェントの所有者と業務上の目的を文書化します。実行環境とアイデンティティを特定し、必要な依存関係と承認済みのネットワーク接続先を対応付けます。原因不明のアクセス経路は調査します。
  • アクセス境界の強制:最小権限のネットワーク制限を、アイデンティティベースの権限と併せて適用します。アプリケーションの認可とツール単位の制御を整備し、不正な操作を防ぎます。承認された活動が成功し、禁止された活動が失敗することをテストします。
  • 封じ込めの継続的な検証:不審な活動を検知し、影響を受けたエージェントを隔離するまでの所要時間を測定します。既存のセッションを含め、禁止された接続が切断されることを確認します。復旧手順を定期的に演習し、封じ込め制御が有効であり続けることを確かめます。

まとめ

筆者は、より大きな教訓があると考えています。AIのセキュリティとガバナンスは、エージェントにどう振る舞うよう指示するかの制御だけに頼ることはできません。エージェントに大きな自律性を与える以上、セキュリティチームはアクセス境界を独立して強制し、その制御が意図どおりに機能していることを継続的に検証する必要があります。

さらなるガイダンスとして、AIエージェント安全チェックリストもご覧ください。自律型エージェントを導入する前に組織が整えておくべきセキュリティ制御を確認できます。

翻訳元: https://www.esecurityplanet.com/threats/ai-agent-security-needs/

本記事は esecurityplanet.com の記事を翻訳・要約したものです。