多くの企業が、これまで担当者の承認が必要だった業務をAIエージェントに任せるようになっています。IT・セキュリティ分野の意思決定者1,100人を対象にした調査では、70%が「1年前なら人間の承認が必要だった判断や行動を、現在はAIに任せている」と回答しました。
こうして与えられた新たな権限は、すでに問題を引き起こしています。回答した組織の4分の3が、過去1年間にAI関連のセキュリティ問題または兆候を少なくとも1件経験しました。その多くは、エージェントが本来立ち入るべきでない領域に踏み込んだケースです。セキュリティ部門の承認なくシステムに接続したり、閲覧すべきでないデータにアクセスしたり、誰も承認していない動作を開始したりしました。これらはそれぞれ、回答者の約4分の1が経験しています。
AIエージェントは、メールの下書きを作るチャットボットとは異なります。自ら判断したうえで行動し、他のシステムを呼び出し、設定を変更し、複数の手順にまたがるタスクをこなします。それにもかかわらず、約3割の組織は、成果物を誰もチェックしない状態で、エージェントにセキュリティ調査を実行させたり、本番環境を変更させたりすることを容認するといいます。
自信は可視性を上回る
AIの動作を把握しているかをセキュリティ責任者に尋ねると、大半は「はい」と答えます。84%が、AIシステムがデータやシステムにどうアクセスするかを把握していると主張しました。ところが、エージェントの全操作を確認・監査できるかという、より踏み込んだ質問になると、この割合は49%に下がります。
このギャップは、問題が起きた後に最も大きな意味を持ちます。操作を追跡できないエージェントは、調査もできません。さらに回答者の62%は、適切な安全対策を整える前にAIツールを導入したことを認めています。
誰もが重要視する対策が、実際は最下位
ここに奇妙な点があります。回答者の大半は、あらゆる脅威を予測しようとするより、AIがアクセスできる範囲を制限するほうが重要だと考えています。しかし、AI向けの主要な対策を2つ挙げてもらうと、エージェントに許可する行為を明確に定義することは最下位で、選んだのは4分の1にとどまりました。ガードレール、つまりAI自体に組み込まれた指示や制約は、外部での封じ込めや人間による監督とともに上位に入っています。
ガードレールが機能するのは、AIが指示に従う場合です。先に挙げたインシデントは、従わなかった場合に起きることを示しています。許可リストは、エージェントが触れてよいシステム、データ、操作を簡潔に書き出したもので、エージェントの外側から強制されます。そのため、エージェントが逸脱しても効力を保ちます。
Illumioで業界戦略担当バイスプレジデントを務めるRaghu Nandakumara氏は、この差の原因は現場の摩擦にあると見ています。「新しいエージェントに何を許可すべきかを定義するのは難しく、そもそもエージェントを便利にしたワークフローを誰も止めたくありません。そのため、エージェントへの理解が深まってから制限を厳しくしようと考えますが、その日はほとんど訪れません」
エージェントが問題を起こしたとき、誰が責任を負うのか
エージェントに権限を与えると、その誤りの責任は誰にあるのかという問いが残ります。「規制当局や裁判所は一貫して、AIエージェントを導入しても責任は移転しないとしています。ベンダーが責任を負うことはなく、エージェントを稼働させた組織がその動作に責任を負います」と、Nandakumara氏はHelp Net Securityに語りました。
「組織内では、そのユースケースを承認した事業部門のリーダーが結果に責任を持つべきです。ビジネス上の判断の責任をセキュリティ部門が当然のように負うのは誤りですが、ほかに担当者が決まっていなければ、実際にはそうなってしまいます。CISOが責任を負うのはガードレールです。エージェントがアクセスできる範囲、許可される行為、停止までにかかる時間が含まれます」
「規制当局も、この問題に踏み込み始めています。最も先行しているのは金融サービスです。英国のシニアマネージャー制度（SMR）も、オーストラリアのAPRAも、AIの成果に責任を負う担当者を明確にすることを求めています。一方、多くの取締役会は、エージェントを稼働させる前にこうした問いを投げかけていません。エージェントの責任者を挙げられないなら、本番環境に置くべきではありません」
どこから始めるか
Nandakumara氏の助言は、すでにエージェントを稼働させているチームに向けたものです。「完全なインベントリから始める必要はありません。AIという要素を除けば、これは広範な認証情報を持ちながら役割のない新しいIDという、おなじみの問題だからです。まずは、失うわけにいかないデータにアクセスできるエージェントから着手してください。完璧なエージェントポリシーを来年策定するより、今四半期に1つの境界を実際に適用するほうが効果があります。エージェントに必要な作業を3つか4つ書き出し、その操作、システム、データだけに制限してください」
翻訳元: https://www.helpnetsecurity.com/2026/10/22/ai-agent-permissions-security/
