企業ネットワーク全体でAIエージェントの展開が急速に進んでいますが、監視手順やセキュリティ対策の整備はそのペースに追いついていません。その結果、多くの組織がセキュリティ脅威やハルシネーションなど、この技術に付随する一般的な問題にさらされています。
Cisco(シスコ)が10月20日に公開した2026年版『Splunk State of Observability』は、多くの企業が自社のエコシステムにAIを取り入れる利点を探りたがっている一方で、安全に利用するための戦略を持たないまま進めているケースが多いと警告しています。
ITOpsおよびエンジニアリング分野の回答者2050人のうち、38%が「自社にはAIを監視するための所有権と責任の所在がまだ明確に定められていない」と答えました。
こうした混乱の多くは、AIエージェントの展開と監視に関する責任が、ソフトウェアエンジニアリング、インフラ管理、Web開発、情報セキュリティといったIT部門内の従来の境界をまたいでいることに起因します。
関連記事:エージェント型AIはサイバー脅威を加速させる。ただし、あなたが想像する形とは異なる
この分断により、組織内でのAI利用を把握することが難しくなっています。回答者の42%は、AIの可観測性における最大の課題として、担当するチームが別にあることを挙げました。
「エージェントの可観測性が全員の仕事になると、誰の仕事でもなくなります」と、SplunkのEMEA担当フィールドCTO兼チーフテクニカルアドバイザーのMark Woods氏は述べています。
大規模なAIエージェントの管理に苦慮する組織
多くのIT・セキュリティチームは、企業内でAIツールを急速に展開した結果、意図せず生じかねない影響への対応にも苦労しています。たとえば、回答者の85%がAIのハルシネーションを可視化することは重要だと答えた一方、ハルシネーションの可能性を効果的に監視できていると答えたのは58%にとどまりました。
多くの組織では、AIエージェントが誤りを犯したり、誤りに基づいて行動したりしている状況を見つけること自体が難しく、その行動を阻止する手段も持っていない可能性があります。
これは企業に悪影響をもたらしかねません。たとえば、悪意のある攻撃者がAIエージェントを悪用してだまし、機密情報を漏えいさせる恐れがあります。適切な監視ツールを導入していれば、こうした行為は防げる可能性があります。
「大規模にエージェントを管理するには、セキュリティと可観測性の両方を考え直す必要があります。エージェントは侵害されていないか。仕事を適切にこなしているか。エージェント型AIの世界では、この2つの問いは切り離せず、しかもマシンの速度で進んでいます」と、Ciscoのプレジデント兼CPOであるJeetu Patel氏は述べています。
「このレポートは、可観測性データとセキュリティデータが融合しつつあり、チーム同士がこれまで以上に連携する必要があることを示しています。問題をリアルタイムで検知・対応できる共通のデータプラットフォームこそが、大規模でも信頼できるエージェントを展開するカギです」と同氏は付け加えました。
レポートはまた、AIエージェントを適切に展開すれば、ITチームやセキュリティチームの大きな助けになると指摘しています。
回答者の86%は、AIの導入によってITやセキュリティの問題を検知する速度が向上したと答え、36%はその改善を「大幅」と評価しました。
ただし、回答者の大半はエージェント型AIによって業務が効率化したと答えた一方で、異なる意見もありました。14%は、AIエージェントの導入によって問題の検知と解決がかえって難しくなったと回答しています。主な理由の一つとして挙がったのは、エージェントの出力が正しいかどうかを再確認するのに余分な時間がかかることでした。
翻訳元: https://www.infosecurity-magazine.com/news/ai-agent-adoption-oversight/