オープンソースプロジェクトはOWASPの上位10のagentic AIの脅威に直接マッピングされており、プロンプトインジェクション、不正なagent、ツールの悪用などの問題をランタイムで抑制することを目的としています。
マイクロソフトは静かにAgent Governance Toolkitを導入しました。これは、企業がAI agentを本番ワークフローに移行しようとする中で、実行中にAI agentを監視・制御するために設計されたオープンソースプロジェクトです。
Open Worldwide Application Security Project（OWASP）によるAIおよびLLMセキュリティリスクへの関心の高まりに対応したこのツールキットは、プロンプトインジェクションなどの問題を軽減するポリシーを強制するランタイムセキュリティレイヤーを追加し、複雑なマルチステップワークフロー全体でagentの動作の可視性を向上させます。マイクロソフトのプリンシパルグループエンジニアリングマネージャーであるImran Siddiqueはブログ投稿で述べています。
より具体的には、このツールキットはOWASPのagentic systemsの上位10のリスク（目標乗っ取り、ツールの悪用、身元詐称、サプライチェーンリスク、コード実行、メモリ中毒、不安全な通信、カスケード障害、人間-agent信頼の悪用、不正なagent）にマッピングされています。
Siddiqueが述べたところによると、このツールキットの背景にある根拠は、AIシステムがますます緩く統治された分散環境に似ており、複数の信頼できないコンポーネントがリソースを共有し、決定を下し、最小限の監督で外部と相互作用するという方法から生まれたものです。
これによってマイクロソフトは、オペレーティングシステム、サービスメッシュ、およびサイト信頼性エンジニアリングから実証済みの設計パターンを適用し、これらの環境に構造、分離、制御をもたらすことになりました。Siddiqueはさらに述べています。
その結果、レドモンドに本社を置く大企業は、これらの原則をPython、TypeScript、Rust、Go、.NETで利用可能な7つのコンポーネントで構成されるツールキットにパッケージ化しました。
Siddiqueが説明したところによると、クロスランゲージアプローチは、開発者が存在する場所で開発者と会い、異種のエンタープライズスタック全体での統合を可能にすることを目的としています。
コンポーネントに関しては、このツールキットには、Agent OSという名前のポリシー施行レイヤー、Agent Meshという名前の安全な通信および身元フレームワーク、Agent Runtimeという名前の実行制御環境、および信頼性、コンプライアンス、マーケットプレイスガバナンス、および強化学習監視をカバーするAgent SRE、Agent Compliance、Agent Lightningなどの追加コンポーネントが含まれています。
モジュール設計を超えて、Siddiqueはさらに、このツールキットは既存の開発エコシステムで動作するように構築されていることを述べています。「我々はツールキットをDay 1からフレームワークに依存しないように設計しました。各統合はフレームワークのネイティブ拡張ポイント、LangChainのコールバックハンドラ、CrewAIのタスクデコレータ、Google ADKのプラグインシステム、Microsoft Agent Frameworkのミドルウェアパイプラインにフックされているため、ガバナンスの追加にはagentコードの書き直しが必要ありません。」
この上級幹部が説明したように、このアプローチは統合のオーバーヘッドとリスクを軽減し、開発者が既存のワークフローを中断したり、アプリケーションの再構築のコストと複雑さを負担したりすることなく、本番システムにガバナンス制御を導入することを可能にします。
Siddiqueはさらに、LlamaIndexのTrustedAgentWorker統合を含む、すでに本番ワークロードに展開されている複数のフレームワーク統合の例を挙げました。
現在パブリックプレビュー中のツールキットを探索したい人のために、それはMITライセンスの下で利用可能であり、独立してインストール可能なコンポーネントを持つモノレポとして構造化されています。
マイクロソフトは将来、プロジェクトをファウンデーション主導モデルに移行し、すでにOWASP agentic AIコミュニティと連携してより広範なガバナンスと統治をサポートしていると、Siddiqueは述べています。
この記事は元々InfoWorldに掲載されました。
