企業のAI戦略、エージェント型ツールへの対応が追いついていない

Dive Brief:

• 企業各社はAI戦略の策定を進めていますが、その計画はエージェント型AIの実際の利用状況を正確に反映しておらず、深刻なサイバーセキュリティ上の抜け穴を生んでいることが、火曜日に発表されたEYのレポートで示されました。
• EYの調査に回答した多くの企業が、自社内で許可されていないAIエージェントを検知できる自信がないと答えました。
• 同コンサルティング会社はまた、計画があるからといって組織がセキュリティ上の課題に対処できる準備が整っているわけではないと指摘し、「正式なガバナンスと運用面での実効性は、同じものではない」としています。

Dive Insight:

EYのレポートには、企業がAIガバナンスにどれほど真剣に取り組んでいるかを示す、いくつかの明るい調査結果も含まれています。例えば、重要な意思決定において人間の関与を必須とする企業は全体のほぼ4分の3に上り、71%の企業が全従業員に対しAIリスク管理研修の受講を義務付けています。また、およそ3分の2の企業がベンダーに対しAIモデルの利用状況の報告を求めており、58%が米国国立標準技術研究所（NIST）などの組織が策定した外部のAIリスク管理フレームワークを活用しており、58%はサードパーティ製ツールに組み込まれたものを含め、自社が使用する全モデルの棚卸しを実施しています。

しかし、こうした好調な数字の裏には、より深刻な課題が潜んでいるとEYのアナリストは指摘します。

「監査委員会にとっての問いは、『統制が機能していることを示す証拠は何か』という点だ」と同社は述べています。「登録簿が不完全であること、方針がプレッシャー下で回避されること、あるいは不正利用をリアルタイムで検知できない統制であること――これらはいずれも同じ実際的な結果を招きかねない。ガバナンスは存在していても、その運用上の実効性に対する信頼はなお限定的なままだ」

エージェント型AIは特有の課題をもたらすことも、レポートで明らかになりました。エージェント型AIを利用している組織の回答者のうち、6割近くが「展開後にそれらのエージェントを監督する単一の部門が存在しない」と認識していると回答し、4割近くが自社組織におけるエージェントの監督に関する責任の所在が「未定義」だと答えています。

組織のおよそ半数が、自社のAIガバナンスフレームワークがエージェント型AI特有のリスクを組み込む形に更新されていないと回答し、4割は自社ネットワーク上の全AIツールを可視化できていないと答え、さらに回答者のおよそ4分の1は、自社組織が「社内で稼働する許可されていないAIエージェントを検知できない」と回答しました。

EYは、今回の調査結果によって「組織の統制が完全な網羅性を備えているかどうかについて、重要な疑問が残る」としています。

「AIの出力を対象に設計されたガバナンスは、AIの行動そのものには十分でない可能性がある」とアナリストらは記しています。「特に、システムが業務プロセス全体にまたがって稼働し、データとやり取りし、ツールを呼び出し、あるいはリアルタイムの人間の関与なしにタスクを実行できる場合はなおさらだ」

レポートは、組織が自社のガバナンスの仕組みそのものを根本から見直すべきだと提言しています。「エージェント型AIが重要な業務フローへの浸透を深めるにつれ、保証活動の焦点は、統制が設計されているかどうかよりも、自律的な活動が重大な失敗に発展する前にそれを検知・阻止できるか、そして事後にそれを説明し証拠立てられるかどうかに移っていく必要がある」

AI関連のリスクは、とうの昔に理論上のものから実際の問題へと変わっています。EYの調査では、過去1年間で組織の9割近くがAIに関連する問題を経験したことが判明しました。調査回答者の3分の1超が「データ損失、金銭的損害、業務の中断、ブランドイメージの毀損など、重大な悪影響をもたらしたAIインシデントや障害を経験した」と、同コンサルティング会社は述べています。

AIの可視性の欠如は、単純な侵害がより深刻な事態へと連鎖する可能性を高めると、レポートは指摘しています。「注目度の高いAIの失敗は、あっという間に評判を損なう事態に発展しかねない。特に、どのように意思決定が下されたのか、どの統制が機能しなかったのか、誰に責任があったのかを組織側が説明できない場合はなおさらだ」

EYは5月28日から6月15日にかけて、年間売上高10億ドル以上の米国上場企業に勤める、AIに関する意思決定を担う上級幹部202名を対象に調査を実施しました。