NVIDIAは、オープンソフトウェアプラットフォームとリファレンスシステム設計を組み合わせた「Open Agent Safety Platform」を発表しました。企業は、テスト段階から本番環境への展開まで、自律型AIエージェントに対して継続的な監視と強制的な制御を行えるようになります。
このプラットフォームは、セキュアランタイム「OpenShell」と、アウトオブバンド方式のハードウェアウォッチドッグ「NVIDIA Sentry」を組み合わせたものです。Sentryは、割り当てられた境界を逸脱したエージェントを停止させるよう設計されています。
今回の発表は、エージェント型AIが直面する中心的なセキュリティ課題に対応するものです。従来のチャットボットと異なり、自律型エージェントはツールを利用し、ファイルやデータベースにアクセスし、APIを呼び出し、コードを実行できます。委任された認証情報を使って、長時間にわたり動作し続ける可能性もあります。
NVIDIAのアプローチは、制御をエージェントの外側に置くというものです。Sentryの場合は、ホストシステムやエージェント自体のさらに外側に配置します。そのソフトウェア基盤となるのがOpenShellです。
このオープンソースのランタイムは、カーネルレベルの分離を用いたサンドボックス環境で自律型エージェントを実行します。また、運用者の指示を強制力のあるポリシーに変換します。
管理者は、エージェントがアクセスできるファイル、ネットワーク、ツール、プロセス、データソース、認証情報を定義できます。ランタイムはこれらの制約を実行前に確認し、エージェントの動作中も継続的に適用します。
NVIDIAによると、この設計は「ドリフト」を検出することを目的としています。ドリフトとは、エージェントの挙動が、割り当てられたタスクや動作上の制約から外れていく現象を指します。
ドリフトは、あいまいな指示、ツール呼び出しの失敗、機能の不足、コードのバグのほか、エージェントが代替手段を繰り返し試す長時間タスクなどから生じる可能性があります。このプラットフォームは、モデル自身による自己統制に頼らず、実行時にポリシーを独立して適用します。
2つ目のコンポーネントであるNVIDIA Sentryは、監視と介入の機能をBlueField-4データ処理ユニット（DPU）に移します。
Sentryは、アウトオブバンドのウォッチドッグとして説明されています。エージェントの活動を独立して観察し、シリコン上でポリシーを適用します。エージェントが許可されたソフトウェアの境界から外れようとした場合は、数ミリ秒以内に隔離または停止できます。
Sentryは、NVIDIA DOCAを使って、ハードウェアレベルの制御とOpenShellのポリシーを連携させます。これにより、組織はエージェントのやり取り、ポリシー判断、ツールへのアクセス、データへのアクセスを関連付け、文脈を含む活動記録として扱えます。
このアーキテクチャは、ID管理（アイデンティティガバナンス）にも対応しています。保護対象のサービス、API、ツール、データへのアクセスを許可する前に、エージェントのIDと委任された権限を検証します。
NVIDIAは、オペレーティングシステムやホストを完全には信頼できない環境で、このハードウェアコンポーネントが特に重要になるとしています。
Vera Rubin PODの展開環境では、BlueField-4がノード上でAIモデルに至る唯一の経路上に位置します。これにより、エージェントのワークロードから隔離された観察・強制ポイントが実現します。
同社は、この配置によってラインレートでのリアルタイム監視とポリシー適用が可能になると説明しています。さらに、セキュリティ機構をエージェントや潜在的な攻撃者から見えない状態に保てるといいます。
このプラットフォームはNVIDIA Vera CPUとBlueField DPUのシステム向けに最適化されていますが、他のハードウェア環境にも対応できるよう設計されています。
NVIDIAによると、OpenShellはすでに広く利用可能です。一方、Open Agent Safety Platformは、エージェント群、サブエージェント、ツール、ロボティクスのワークロードを展開する組織向けのリファレンス設計として提供されます。
NVIDIAは、サンドボックス化、検証可能なポリシー、IDチェック、行動テレメトリ、ハードウェアによる強制介入を組み合わせます。これにより、自律型AIのためのセキュリティ境界を確立しようとしています。Webアプリケーションを大規模に安全に展開できるようにしたサンドボックスモデルと、同様の役割を狙うものです。
ANY.RUNを利用する16,000以上のSOCチームに加わり、脅威調査を効率化して手作業を減らしませんか。チーム向けに詳しく見る
翻訳元: https://cyberpress.org/nvidia-launches-in-silicon-security-platform/
