大企業の内部で稼働するAIは、もはや許可を待たなくなっています。チャットボットからプロセス自動化まで5分野のAIを対象にした調査では、ビジネス部門の意思決定者3,600人のうち過半数が、自チームの使うシステムが定められたルールの範囲内で日常的なレビューなしに動作できる、あるいは人間の承認なしにプロセス全体を完了できると回答しました。しかも同じ回答者の87%が、AIの利用を承認・監視・統制するより優れた方法が組織に必要だと答えています。
調査はVanson Bourneが北米、EMEA、アジア太平洋・日本地域で実施しました。回答者は全員が年間売上5億ドル超の企業に所属しており、金融サービス、ヘルスケア、製造、小売など7つの業種にわたっています。
Avanadeの最高経営責任者（CEO）であるChris Howarth氏は、次のように述べています。「AIに対する自信と、AIの現実との間に、危険なギャップが広がりつつあります。問題は自信ではありません。意欲でもありません。多くの組織が、本来AIが置き換えるべきビジネスモデルを改善するためにAIを使っていることが問題なのです」
過半数が「AIは監督なしで動作できる」と回答
自律性が最も高いのは、対話型AIと仮想エージェントで59%でした。テキストやコードを生成する単体の生成AIツールは54%と最も低くなっています。予測分析・機械学習、ロボティック・プロセス・オートメーション（RPA）、自然言語処理は、いずれも56%でした。これらは管理職が自チームについて答えた数字であり、本人たちが稼働中だと認識している状況を反映したものです。
回答者の87%は、競争力を維持するにはAI施策の承認をもっと迅速にする必要があると答えました。そのうち91%は、AIの承認・監視・統制の進め方をより効果的にする必要があるとも回答しています。承認プロセスの短縮を求めているのは、まさにその承認プロセスを信頼していない人たちなのです。
急ぎ導入した企業ほど、すでに管理が追いつかない
AIを導入済み、あるいは急速に拡大した企業のうち、46%がセキュリティ、プライバシー、規制、コンプライアンス上の問題を報告しました。25%は、可視性、統制、あるいはエージェントの権限を失ったと答えています。特に重要なのは後者の数字です。チームが権限を把握できていないエージェントは、そのエージェントが触れるあらゆるものへの、管理されていないアクセスにほかならないからです。
45%は、従業員がAIの出力を正確性や適合性を確かめずに使っていると考えています。32%は、コンプライアンス部門が承認しないような使い方をAIがされていると考えており、31%は未承認のツールが使われていると報告しました。さらに37%は、AIによって意思決定の責任の所在があいまいになったと答えています。
カナダの大手ヘルスケア企業の中間管理職は、雇用主が把握していない可能性のあるAIの使い方を尋ねられ、次のように答えました。「AIが主要システムと同じ水準のセキュリティを備えていないことは認識しています。しかし、アクセスを遮断しても通用しない以上、どうすればよいのでしょうか。私は自社の業務情報や企業情報をAIアプリにアップロードしています。セキュリティ上の影響は理解しています」
ガバナンスのギャップ
AIセキュリティについては、30%が強化が必要、40%が中程度の強化が必要と回答しました。ガバナンスとリスクの分野では、94%がさらなる整備が必要だと答えています。36%は、自社がAIのリーダーになる妨げとなる最大の障壁として、セキュリティ、ガバナンス、規制上の懸念を挙げました。また、セキュリティ、プライバシー、ガバナンス、規制遵守は、AI投資を最も手厚く行っている分野としても47%で首位です。統制が追いついていない状況でも、支出はすでに始まっています。
承認・監視・統制のより良い方法が必要だと答えた割合は、売上5億ドル～50億ドルの企業では90%でした。これに対し、売上50億ドル超の企業では70%でした。
強固なガバナンス、アクセス制御、責任ある利用を最優先事項の一つに挙げたのは回答者の45%で、「できるだけ速くAIを導入すること」を挙げた26%を大きく上回りました。
翻訳元: https://www.helpnetsecurity.com/2026/11/06/autonomous-ai-oversight-governance/
