NVIDIAが3Dグラフィックス用GPUの設計からAIファクトリー、ハイパースケーラー、ネオクラウドを駆動する主導的な力へと移行することで、テクノロジーは変わろうとしています。
企業は大規模言語モデル(LLM)用の生成AI からエージェンティックAI搭載の自律システムに至るまで、本番環境で実行する生産システムを構築するために、NVIDIA AIスタックを急速に導入しています。セキュリティチームは、AI技術が進化し続け、企業がそれをどのように使用するかが変わり続けるため、特にAIリスクに対応するのに苦労しています。
標準はまだ出現している段階です。チームは急速に構築していますが、本番環境で「良い状態」がどのようなものであるかを知っているチームはほとんどありません。組織はモデルの安全性、プロンプトフィルタリング、導入前の制御、およびその他の予防的な制御に焦点を当てることができますが、実際のセキュリティリスクはランタイムに存在します。
ここで、組織はNVIDIAとSysdigを一緒に使用して、イノベーションを本番対応ソリューションに変えることができます。NVIDIAはAIソフトウェア開発ライフサイクル向けのネイティブ制御を提供します。Sysdigは、NVIDIA AI環境の実行時境界をセキュリティで保護し、問題を防ぎ、脅威をリアルタイムで停止するために必要な可視性とコンテキストをチームに提供します。
セキュリティは基本的な要件として
NVIDIAはエンドツーエンドのセキュリティに対して強気のアプローチを採用しています。NVIDIA CEO兼創業者のJensen Huangによると：
「セキュリティはシリコンからソフトウェアまで、データ、アプリケーション、およびインフラストラクチャを保護するために、すべてのレイヤーに組み込まれていなければなりません。」
NVIDIAのLLMとエージェンティックスタック
AIシステムはクラウドネイティブアーキテクチャ上に構築されています。これらは速度とスケールの同じメリットを取得しますが、同じセキュリティ上の課題も継承します。モデル、エージェント、コンテナ、クラウドサービスを活用することで、AIインフラストラクチャは複雑です。その攻撃面は、アイデンティティ、ワークロード、データ全体に広がっています。
AIインフラストラクチャの防御には、複数のセキュリティレイヤーが必要です。
このクラウドの現実を説明するために、今日のAI対応エンタープライズ環境での2つの一般的なユースケースを考慮してください。
上の画像では、仮想小売販売アシスタント（左）が本番環境でNemotron LLMをNIMおよびNeMoで使用しています。右側はNemoClawで構築されたIT操作マルチエージェントシステムであり、NVIDIA CloudのAPIからモデルを消費しています。
セキュリティの観点から、NVIDIAのベースラインセーフガードには、プロンプトレベルの保護用のNVIDIA NeMo Guardrails（左）、およびサンドボックス化されたエージェントプロセス用のOpenShell（右）が含まれています。両方の対策は重要ですが、どちらも包括的ではありません。
LLMガードレールは、敵対的機械学習のような回避技術に対して脆弱であり、文書化されているインジェクションとジェイルブレイクがあります。
OpenShellは合理的な分離ベースラインを提供しますが、標準ランタイムで観察されるコンテナエスケープリスクを継承しています（例：CVE-2019-5736 inrunc）。サンドボックスはエージェントのプロセスを分離しますが、外部リソース、データ、またはサービスへのアクセスを管理していません。このアクセスは、追加のポリシーレイヤーで制御される必要があります。ランタイムカバレッジのギャップもあります。
Sysdigおよびnvidia：一緒に強い防御
上の改訂されたダイアグラムでは、Sysdigを追加することで、エンタープライズグレードのAIソリューションのセキュリティの全体像を完成させる方法を見ることができます。その方法は次のとおりです。
入力と出力の制御
NVIDIAはNeMo GuardRailsをもたらします。プロンプト入力を制御し、予測不可能性を管理します。NVIDIAの生成AI赤チームツールキットであるGarakは、プロンプトの脆弱性とガードレールのギャップを評価します。Garakが適切なプローブを備え、Sysdigと組み合わせられている場合、それはコンピューティング悪用を露出させるのに役立ちます。
サプライチェーンを強化する
敵対的AIは既に攻撃者に向かってバランスを傾けており、より多くのサプライチェーン攻撃を駆動しています。
Sysdigはパイプラインとランタイム環境を継続的にスキャンして、脆弱性を検出および修復します。
リスクとエージェントの境界を管理する
OpenShellはランタイムサンドボックスを提供します。Sysdigはエスケープを防ぎ側方移動を防ぐための構成を実施し、深い多層的なリスク洞察を提供します。
ランタイム境界を監視する
Sysdigはリソース、サービス、および身元全体のリアルタイム可視性を提供し、異常なアクセスと悪意のある行動を検出して、人間の介入または自動化を通じて脅威をすばやく含有します。
データを安全に保つ
Sysdigは機密データを監視し、濃化されたコンテキストを追加し、攻撃の潜在的なブラストラッドを低下させるのに役立ちます。
Sysdigは実世界の脅威に対して実証された効果を持っています
AIへのリスクは現実的です。最近の事件は、AIインフラストラクチャが既に身近なパスを通じてターゲットにされていることを示しています：公開されたAPI、脆弱なコンテナ、および侵害された依存関係。モデル提供エンドポイントとエージェントフレームワークは、攻撃面を拡大します。
ランタイムレベルでは、コンテナエスケープと許可されていないネットワークアクセスなどのリスクは非常に関連性があります。特に、コンポーネントが外部システムと動的に相互作用するマルチエージェント環境では。
Sysdigは、異常なプロセス、予期しないアウトバウンド接続、および権限悪用を検出することで、姿勢、リスク、および実際のランタイム動作に焦点を当てることでこれらの現実に対処しています。これにより、チームは理論的なものではなく、実際の攻撃を展開するにつれて特定および停止できます。
SysdigでAIイノベーションを保護および加速する方法を発見する準備ができていますか？デモをリクエストする。
*このレポートの時点では、NVIDIA NemoClawはまだアルファ版でした。
翻訳元: https://webflow.sysdig.com/blog/securing-nvidia-ai-stacks-for-enterprise-environments
