自律型AIは、企業のIT环境において実際に行動を起こしています。人間の承認を待つことなく、ソフトウェアがサービスを再起動し、リスクのあるデバイスを隔離し、パッチを適用しています。こうした機能が広がりを見せる一方で、IT専門家の間ではAIの出力エラーに頻繁に遭遇するケースが報告されており、その影響は業務にまで及ぶ可能性があります。
Ivantiが公開した『2026 AI Maturity Report』は、6か国1,500人のIT専門家から収集した回答に基づいています。その結果によると、68%が業務に影響しうるAIのハルシネーションを実際に経験しています。そのうち約52%は、エラーが問題を引き起こす前にチームが検知できたと回答しています。しかし残りの16%は、エラーが見逃されて本番環境にまで到達したケースがあったと報告しています。
信頼は経験とともに高まる
こうした失敗事例を目の当たりにしてもなお、IT専門家はAIが生成した出力に対して高い信頼を寄せ続けています。AIの活用が最も進んだユーザー層では、49%がITの意思決定に影響するAI生成の出力を「完全に信頼する」と回答しています。AIの個人的な経験が豊富になるほど信頼度は高まりますが、同時にAIの失敗に遭遇する機会も増えています。
IT運用における自律的なAIの活動範囲も広がっています。調査対象のIT専門家のうち、52%がAIによるパフォーマンス設定の自動調整を報告し、50%がリスクデバイスの隔離、47%がサービスやプロセスの再起動、46%がパッチや修正の自動適用を経験しています。AIの活用が大規模かつ成熟している組織では、これらの自律的な運用がそうでない組織の2倍以上の比率で実施されています。また全組織を対象にすると、18か月以内にIT運用の46%がAIによって自動化されると見込まれています。
人によるレビューが必要な領域
IT専門家は、重大度の高い作業については明確な線引きをしています。55%が「重大度の高いインシデントには、人間によるレビューなしにAIだけには頼らない」と回答し、52%が「役員や関係者へのインシデント報告についても同様だ」としています。これは、定型的な修復処理は自律的に実行し、重大な意思決定には人間による検証を求めるという二層構造のモデルに対応しています。
ガバナンスの空白
ガバナンスは、AI導入における最大の障壁として最も多く挙げられています。IT専門家の27%が、ガバナンス・セキュリティ・コンプライアンスに関する懸念を組織最大の導入障壁として挙げており、スキル不足（20%）、技術的な制約（17%）、データに関する課題（14%）を上回っています。
多くの組織では、基本的なガバナンス体制は整備されています。65%がAIリスクレビュープロセスを設けており、59%が新しいAIソリューションの評価・承認ポリシーを持ち、58%がAIの利用規定を策定し、49%がAI監督機関を設置しています。しかし遵守状況にはばらつきがあり、AIポリシーを持つ企業の従業員のうち、日常業務でポリシーが徹底して守られていると回答したのは24%にとどまっています。
責任の所在については、さらに大きな課題が浮かび上がっています。IT専門家の85%が「組織内のすべてのAIエージェントとワークフローに、明確に責任を負う担当者がいる」と主張しています。しかし実際に責任体制が機能していると答えたのは42%に過ぎません。この43ポイントという乖離は、AIの機能がIT運用へと急速に浸透する一方、所有権やエスカレーション体制の整備が追いついていないことを示しています。
シャドーAIもさらなる問題を招いています。承認プロセスの遅さを回避するために非公認のAIツールを使用する従業員は、既存のガバナンス体制を素通りしてしまいます。政府・医療・教育などの規制業種では、非公認AIツールの利用率が最も高く、使用者の所属組織が提供するツールの普及率は最低水準となっています。組織のリーダー層がAI利用を隠しているケースは42%に達しており、一般従業員の23%を大きく上回っています。隠している理由として、「密かな優位性を得たい」と回答したリーダーは52%に上っています。
信頼基準の明文化
ガバナンスの成熟度は、AIの成熟度とともに向上します。大規模・事業基幹レベルのAI活用を行う組織では69%が包括的なガバナンスを整備していると報告していますが、初期実験段階の組織では、その割合はわずか15%にとどまっています。
Ivantiは、ワークフローごとに信頼基準を明文化することを推奨しています。障害が発生したサービスの再起動や定例パッチの適用はAIに自律的に任せる一方、システム全体に及ぶ設定変更や緊急インシデント対応には人間による検証を義務付けるべきだとしています。このアプローチにより、自律的な修復処理がもたらすメリットを享受しながら、ハルシネーションや誤ったシグナルによる業務上の影響範囲を最小限に抑えることができます。
翻訳元: https://www.helpnetsecurity.com/2026/06/05/ai-hallucinations-it-operations-research/
