企業の65%、AIエージェントが想定範囲外の行動を取った経験あり

調査対象となった企業の65%で、AIエージェントが本来意図されていた範囲を超えて行動したことがあると判明しました。そのうち29%は、組織に測定可能な影響が及んだと報告しています。

この結果は、Enterprise Management Associates(EMA)がCequence Securityのためにまとめた調査レポート「Agents Without Guardrails」によるもので、企業の技術・セキュリティ責任者202名からの回答を基にしています。

回答者の約46%が、自社の組織ではすでに複数部門・複数の実運用ワークフローにわたってエージェント型AIの展開を拡大していると回答したほか、79%近くが生成AIとエージェント型AIを同時に運用していると答えました。

こうしたインシデントに加え、回答者の35.6%が、実害が生じる前にニアミスを検知した経験があると答えています。また3.5%(組織数にして7組織)は、想定範囲外の行動を最初に把握したきっかけとして、顧客やパートナーからの報告が最も多かったと回答しました。

エージェント型AIのガバナンスに関する関連記事はこちら: Four in Five AI Tools Run with No IT Oversight, New Research Finds

エージェントの行動がガバナンス統制を上回る実態

対応能力の弱さも浮き彫りになりました。想定範囲外の行動を自動化された仕組みによって数分以内に検知・封じ込められると答えたのはわずか32.2%にとどまり、54.5%は数時間かけて手作業での対応が必要だと回答しています。

また46%強が、特定のエージェントによる過去30日間の活動について、完全な監査証跡を容易には作成できないと答えました。

認可の仕組みも、多くの組織における現行のアプローチの弱点として挙げられました。実行時にエージェントの行動権限を評価していると答えたのは34.2%にとどまり、それ以外の組織は常時付与の権限、定期的なレビュー、あるいは継承されたアクセス権に依存していました。

レポートはこのギャップを、権限の過剰付与と結び付けています。94%が、自社のエージェントが必要以上のアクセス権を保持していないことについて少なくともある程度の自信を持っていると答えた一方、最小権限の原則に基づいてエージェントに権限を付与していたのはわずか32.7%でした。

EMAの調査担当バイスプレジデントであり、本レポートの著者でもあるChristopher M. Steffen氏は、今回の調査結果から、企業がすでに実験段階を脱している一方で、運用面のガバナンスが導入のスピードに追いついていないことが明らかになったと述べています。

「多くの組織はポリシーを整備しており、その実効性にも一定の自信を持っています」とSteffen氏は述べています。「問題は、文書化されている内容と、実際に運用の中で強制されている内容との間にギャップがあることです」

アイデンティティとインベントリの管理不足がアクセス権を放置させる

今回の調査では、パイロット運用終了後のリスクも明らかになりました。エージェント型AIのパイロット運用のうち約30%が、無期限に一時停止されるか正式に打ち切られており、中断の要因としてセキュリティリスクへの懸念を挙げたケースは48.5%に上りました。

レポートによれば、こうしたエージェントの多くには認証情報や本番環境へのアクセス権が付与されたままであるにもかかわらず、適切なクリーンアップが行われていなかったといいます。

アイデンティティの管理体制にもばらつきが見られました。すべてのAIエージェントに対して一意のIDを要求し、かつそれを実際に強制していると答えたのは54.5%にとどまり、32.2%は要求はしているものの一貫した強制には至っておらず、3%はエージェントがユーザーアカウントやサービスアカウントの認証情報を共有または継承していると回答しています。

可視性の欠如も関連する問題として挙げられます。回答者の47%が、信頼できるエージェントのインベントリを保有していないと答えており、実際には数十のエージェントを本番環境で稼働させている組織も少なくありませんでした。

レポートは、実行時にエージェントの権限を評価すること、展開を拡大する前に自動化された検知・封じ込めの仕組みを構築すること、そしてエージェントの廃止処理を、認証情報の失効と権限のクリーンアップを伴うセキュリティ上の規律として扱うことを推奨しています。