ローカルAIエージェントが生み出す、新たなガバナンスの盲点

AIガバナンスをめぐる取り組みは、これまで主にChatGPTやMicrosoft Copilotをはじめとするクラウドベースのツール、およびSaaS（Software as a Service）プラットフォームに焦点を当ててきました。

しかしArms Cyberの最高製品責任者であるJosh McCarthy氏は、多くの組織がはるかに大きなリスクを見落としている可能性があると指摘します。そのリスクとは、従業員のエンドポイント上でローカルに動作する自律型AIエージェントです。

AIの処理能力がクラウド環境からローカルデバイスへと移行するにつれ、従来のセキュリティコントロールでは、リスクを効果的に管理するために必要な可視性やガバナンスを確保できなくなりつつあります。

ローカルAIエージェントリスクの要点

• ローカルAIエージェントはエンドポイント上で完結して動作するため、従来のネットワークやクラウドのセキュリティコントロールの多くを回避できます
• 従業員デバイス上でどのAIモデルやエージェントが稼働し、データとどのようにやり取りしているかを把握できていない組織が少なくありません
• DLP、CASB、ネットワーク監視などの既存ツールは、ローカルで動作する自律型AIを管理するために設計されたものではありません
• 管理されていないローカルAI活動は、セキュリティ・コンプライアンス・プライバシー・監査可能性に関する課題を生み出す可能性があります
• AIエージェントやローカル展開モデルが企業環境に普及するにつれ、エンドポイントレベルの可視性がますます重要になっています

組織が見落とす可視性のギャップ

多くの組織は、AIガバナンスの課題は主にネットワークやブラウザに関するものだと考えています。

セキュリティチームはクラウドAIアプリケーションの監視や、コンシューマー向けAIサービスへのアクセス制限に力を入れることが多いです。

McCarthy氏は、こうしたアプローチではAI利用の中でも最も目に見えやすい部分にしか対処できていないと指摘します。

より深刻な懸念は、エンドポイント上で完全にローカルに行われているAI活動です。

OllamaやLM Studioといったプラットフォームで動作するローカルホスト型モデルは、ネットワークトラフィック、APIコール、SaaSログインイベントを一切発生させずに稼働できます。

これらのシステムに自律型エージェントを組み合わせると、従来の監視ツールを一切起動させることなく、デバイス上のファイルを読み取ったり、機密データを分析したり、直接アクションを実行したりすることが可能になります。

従来のセキュリティコントロールが機能しない理由

組織の多くは、可視性とリスク管理のためにDLP、CASB、EDR、およびネットワーク監視に依存しています。

McCarthy氏は、これらのコントロールはローカルのAI活動を監視するために設計されたものではないと述べています。

DLP、CASB、ネットワーク監視ツールは、ネットワークやクラウドアプリケーションを横断するデータの動きに焦点を当てているため、エンドポイント上で完結するAI活動への可視性はほとんどありません。

EDRツールでさえ、通常は悪意のある挙動の検知に重点を置いており、ローカルで動作する正規のコード署名済みAIランタイムを管理する機能は持ち合わせていません。

その結果、どのAIエージェントが動作しているか、どのモデルを使用しているか、どのデータにアクセスしているかを、組織がほとんど把握できていない状況が生まれています。

新たなセキュリティとコンプライアンスのリスク

ローカルで動作するエージェント型AIの台頭は、新たなガバナンス上の課題ももたらしています。

McCarthy氏によれば、懸念はもはや組織外へのデータ流出にとどまりません。

自律型エージェントは、知的財産、ソースコード、規制対象の記録、その他の機密情報とやり取りしながら、エンドポイント環境の内部に完全にとどまり続けることができます。

これにより、コンプライアンス、プライバシー、監査可能性に関する潜在的な問題が生じます。

AIエージェントがどのような操作を行い、どの情報にアクセスし、それらの活動が社内ポリシーや規制要件に準拠していたかどうかを特定することが、組織にとって困難になる可能性があります。

エンドポイントの可視性が重要な理由

McCarthy氏は、ローカルモデル・エージェント・機密データが集約される場所はまさにエンドポイントであるため、効果的なAIガバナンスはそこから始める必要があると提言します。

通信先やネットワーク活動のみを注視するのではなく、どのAIプロセスが動作し、どのファイルにアクセスし、リアルタイムにどのようなアクションを実行しているかを把握できる可視性が必要です。

この可視性によって、組織は承認されたAI利用と潜在的にリスクのある未承認の活動を区別できるようになります。また、セキュリティチームが適切なガバナンスコントロールを維持しながら、イノベーションを支援することも可能になります。

AIリスクの次なる波

McCarthy氏は、ローカル展開モデルや自律型エージェントの普及に伴い、AIガバナンスに関する要件が急速に進化すると見ています。

同氏は、NvidiaがAI処理能力を主流のビジネス向けハードウェアに直接組み込もうとしている動きの一例として、同社が最近発表したN1Xプロセッサーを挙げました。

エンドポイントで利用可能な処理能力が高まるにつれ、高度なAIモデルをローカルで実行できるデバイスを保有する組織はさらに増えていくでしょう。

こうした移行が進む中、セキュリティリーダーはクラウドとネットワークの可視性に主に依存したガバナンス戦略を見直す必要が出てくるかもしれません。

今日のうちにAI活動に対するエンドポイントレベルの可視性を確立しておく組織は、次世代の自律型AIシステムに関連するリスクをより適切に管理できる立場に置かれるでしょう。