Microsoft、暴走するAIエージェントを制限する新たなセキュリティツールを発表

Microsoftは、AIエージェントの挙動にセキュリティ上の懸念が生じた場合、その動作を自動的に制限する新たな仕組みを発表しました。企業はこれにより、AIエージェントをより厳格に管理できるようになります。

米Microsoftは月曜日、暴走するAIエージェントを抑え込むための包括的なセキュリティ制御群を発表しました。同社は、自律的に動作するデジタルアシスタントを信頼できるソフトウェアとしてではなく、予測不能な「エージェント型インサイダー」として扱います。 

今回の発表は、IT部門とセキュリティ部門が直面する課題への対応策です。その課題とは、AIエージェントがタスクを完了できるだけの自律性を与えながら、企業のデータやシステムへ無制限にアクセスさせないようにする方法です。

エージェント型インサイダーを制限する

この取り組みは、自律型AIツールが無許可の行動をとることへの企業の不安の高まりに正面から応えるものです。Microsoft Security担当エグゼクティブバイスプレジデントのHayete Gallot氏は、同社の投稿で、社内のエージェントは過剰な権限を持つことが多く、本質的に予測が難しいと警告しました。

「フロンティアモデルは、その出自にかかわらず信頼できません」と、Gallot氏は述べています。「これは、モデルが本質的に悪意を持っているからではありません。モデルは成果を出すよう訓練されているため、報酬ハッキングに陥りがちです。しかも、組織の規範や判断を重視するように最適化されているわけではないのです」

画像：Microsoft

新アーキテクチャの中核となるのが「Dynamic Agent Risk」です。このツールは、ネットワーク活動、データアクセス、タスクからの逸脱といったシグナルに基づき、エージェントの脅威プロファイルをリアルタイムでスコア化します。スコアが上昇すると、「Dynamic Conditional Access」が段階的な制限を発動します。 

問題のあるエージェントは、まず読み取りアクセスは維持されたままファイルの変更権限を失う場合があります。機密性の高いタスクでは人間による手動承認が必要になることもあります。さらに、コンテナのサンドボックス内で完全に停止される場合もあります。

このエコシステムを監視するため、MicrosoftはProject Perception内に「Guardian Agents」を展開し、外部エージェントを24時間体制で監督します。同社はローカルセンサーの対象範囲も拡大しました。従業員のデバイス上で検出できるエージェントの種類は、従来の25種類から最大60種類に増え、AnthropicのClaude Code、OpenAIのCodex、GitHub Copilotなども含まれます。

台頭する「シリコンの官僚制」

自律型ソフトウェアを信頼できないインサイダーとして扱う発想は、エンタープライズアーキテクチャにおける重要な転換点です。社内に「シリコンの官僚制」が生まれつつあります。

長年、サイバーセキュリティは境界防御に重点を置き、悪意ある部外者が企業のデータベースに侵入するのを防いできました。Microsoftは今、正規のシステム認証情報を持つ人間以外の働き手を監視するため、社内の監督体制を事実上構築しています。組織は、フロンティアモデルの自己規制に頼るのではなく、外部にある決定論的な統制機構へと軸足を移しつつあります。 

ただし、運用面の摩擦というリスクもあります。自動化された安全対策が権限を過度に絞り込むようになれば、自律型ワークフローが当初支持された理由である速度面の利点は、たちまち失われかねません。

一般の従業員にとっての意味

AIエージェントで日常業務を自動化している従業員にとって、Microsoftの新しいセキュリティ制御は、日々のワークフローに監督の仕組みが加わることを意味する可能性があります。

このツールを導入した組織は、従業員のデバイス上で動作するAIエージェントを、IT部門が正式に承認していないアプリケーションも含めて、より広く把握できるようになる可能性があります。これにより、セキュリティチームは無許可のAI利用を特定し、機密情報が漏えいする前に潜在的なリスクを評価しやすくなります。

複雑なタスクをAIエージェントに任せている従業員も、エージェントが機密データへアクセスしようとしたときや、想定された挙動を外れた行動をとったときに、追加の承認を求められる場合があります。

企業にとっての課題は、セキュリティと生産性のバランスをとることです。制御を厳しくすれば無許可の行動を防ぎやすくなりますが、中断が多すぎると、自律型エージェントがもたらすはずの効率向上が損なわれかねません。

GeekWireによると、新機能は現在プライベートプレビュー中です。より広く利用できるようになるのは、11月17日から19日にサンフランシスコで開催されるMicrosoftのIgnite カンファレンスの前後になる見込みです。5月に発表されたMicrosoft 365 E7の価格は、1ユーザーあたり月額99ドルです。

関連ニュース：サイバー犯罪者がMicrosoft 365のカレンダー招待をフィッシングの誘い文句として悪用しており、見慣れた職場の通知を使って悪意あるメッセージを本物らしく見せかけています。