AIエージェントの「通常の状態」を把握できない企業が続出

Dive Brief:

• 企業はAIエージェントの正常な挙動を把握できていないため、その監督に苦慮していると、新たなレポートが明らかにしました。
• セキュリティ専門家の半数近く（46%）が、エージェント型AIの活動について安全なベースラインを確立できていないと回答しました。セキュリティ企業のAbnormal AIがレポートで明らかにしたもので、同レポートは木曜日に公開されました。
• レポートは、AIの導入を拡大する企業が優先すべき、AI監督体制のセキュリティ上の欠陥を浮き彫りにしています。

Dive Insight:

ベースラインの確立は、AIエージェントの暴走や、業務妨害・データ窃取への悪用を防ぐために、企業が取れる最も重要な手順の一つです。専門家によると、悪意ある挙動を検知するツールを改良するには、エージェントが自社ネットワーク上で正常に動作しているときの姿を明確に把握しておく必要があります。

企業側もこの必要性は理解しています。Abnormal AIのレポートによると、挙動監視技術に投資している企業の4割超が、その対象をAIエージェントに向けています。これは他のどの企業向けテクノロジーよりも大幅に高い割合です。回答者の3人に1人近くが、エージェント型AIはベースライン策定を改善すべき最重要分野の一つだと答えました。

その一方で、回答者の半数超（53%）は、自社がAIエージェントを含むマシンアイデンティティの通常のベースラインを、そもそも確立していないと答えました。

「来年に向けて、私が話をしたほぼすべてのCISOにとって、これが最優先の投資計画です」。B2Bソフトウェア企業の幹部（社名は非公表）は、調査の回答者にこう語りました。一方で、この幹部は、その投資を成果につなげる方法については「計画がない」とも述べています。「どんなソリューションがあるのかは分かりませんが、全員がそこにリソースを投じることになるでしょう」

AIエージェントの統制が難しい理由の一つは、人間の挙動とマシンの挙動の境界があいまいになることです。エージェントは、人間に代わって行動する場合もあれば、自らの判断で動く場合もあるからです。

「これは、アイデンティティ、アクセス、行動の間の比較的安定した関係を前提としたセキュリティモデルを複雑にします」とAbnormal AIは述べています。同社によると、企業は今や、エージェントにある行為を実行する権限があるかどうかだけでなく、与えられた指示に照らして、そのエージェントが特定のタスクを実行することが妥当かどうかも見極める必要があります。

挙動分析プラットフォームを販売するAbnormalは、レポート作成のために6カ国のセキュリティ専門家525人に聞き取りを行いました。回答者はいずれも従業員1,000人以上の組織に所属しています。回答者の85%はCISOまたはセキュリティオペレーションセンター（SOC）のリーダーでした。

レポートによると、挙動分析技術には限界があり、セキュリティ担当者がその分析結果に寄せる信頼を損なっています。回答者の4割近くが、ネットワーク挙動を監視するうえでの大きな障害として、受け取る挙動アラートの内容を理解または信頼することの難しさを挙げました。

Abnormalのレポートによると、セキュリティ担当者がネットワーク挙動を分析する際の最大の障壁は、信頼性の問題、「通常」を定義する難しさ、そして大量の誤検知アラートの3点です。同社は、これら3点が人員、予算、ツールの能力といった従来型の障害を上回ったことは注目に値すると指摘しています。