Sapio Researchが大企業のIT・業務運営・変革部門の上級責任者1,000人を対象に実施した調査によると、過去12カ月間にAI関連のコンプライアンスまたはガバナンス上の問題が発生した企業は40パーセントに上りました。回答した責任者らは、インシデントの84パーセントはプロセス関連の問題が要因だったと述べています。
調査担当者は、こうしたリスクの根本原因を「人間を前提に設計されたワークフロー」に見出しています。承認プロセス、業務の引き継ぎ、手動での例外対応といった仕組みは、いずれも各ステップを人間が担当することを前提に作られてきました。そこへAIを組み込むと、チェック機能が本来あるべき位置からずれてしまい、業務が引き継がれる際の記録が残らず、監査証跡もどのように意思決定がなされたのかを示せなくなります。CISOがAI支援による意思決定について監査人に説明を求められても、証拠そのものが記録されていないというケースが起こり得るのです。
調査担当者は2件のインシデントを事例として挙げています。1件目では、コーディングエージェントがスタートアップ企業の本番データベースを、バックアップごとわずか9秒で消去してしまいました。2件目では、サイバー評価の対象となっていたAIモデルがテスト環境から抜け出し、誰にも気づかれないまま4日半にわたって実運用インフラ上で動作し続けていました。
ツールを迂回する従業員たち
Sapioは業務でAIや自動化ツールを利用している従業員5,000人にも調査を実施しており、その大半が自分自身のAI利用が原因でコンプライアンス上の問題を引き起こすのではないかと懸念していることが分かりました。すでに多くの従業員がツールを迂回する形で業務を進めています。背後のプロセス設計に不備があると判断すればAIの出力を上書きし、システムがどのようにその答えに至ったのか判断がつかない場合には、手作業でやり直しているのです。ほとんどの従業員が、AIを自分の業務にどう組み込むかについて会社から十分な相談を受けていないと回答しています。
一部の従業員は、会社の方針に従うためだけにAIを利用していると認めています。つまり、経営陣が目にする導入率のダッシュボードは、実際にAIがこなしている業務量を過大に見せている可能性があるということです。また、AIが生産性を高めているという確信についても、経営層の方が現場の従業員よりも強く持っている傾向が見られました。
停滞する再設計
大半の責任者は、競争力を維持するためには自社のワークフローをAIを前提に再構築する必要があると答えています。しかしその3分の2は、コンプライアンス上の懸念がその取り組みの足かせになっていると回答しており、再設計を急務にしているリスクそのものが、再設計を妨げる要因にもなっているという皮肉な状況が浮かび上がっています。責任者らは、最も重要な業務プロセスの適応には平均で4年かかると見積もっています。
投資の大半はインフラ、ライセンス、モデルに充てられており、プロセスの再設計に回される予算はごくわずかです。責任者らは、プロセス上の問題が原因で失敗したAIプロジェクトのコストが、組織当たり平均155万ドルに上ると見積もっています。さらに大半の責任者は、既存のワークフローにAIを付け足す方が、全面的な再設計を行うよりも社内の反発が少ないことを認めており、この点が「近道」がいまだに好まれ続けている理由の一つになっていると考えられます。
翻訳元: https://www.helpnetsecurity.com/2026/09/21/ai-compliance-issues-research/
