生成AIモデルの急速な展開には、組織がイノベーションと堅牢なセキュリティのバランスを取る必要があります。Microsoftはこの課題に対応するために、Azure AI FoundryおよびAzure OpenAI Serviceプラットフォーム内に厳密なセーフガードを実装しています。
主な目標は、エンタープライズAIシステム、クラウド環境、および基盤となるインフラストラクチャを、潜在的に侵害されたサードパーティモデルから保護することです。
業界で継続的な懸念は、AIエコシステム内での独占的データの処理に関するものです。Microsoftはすべてのモデル入力、出力、およびログを安全な顧客コンテンツとして扱い、このデータが共有モデルのトレーニングに使用されたり、外部モデルプロバイダーと共有されたりしないようにしています。
Azure AI FoundryおよびAzure OpenAI Serviceは、Microsoftインフラストラクチャ上に完全にホストされており、外部エンティティへの実行時接続はありません。組織が独占的データセットを使用してモデルをファインチューニングする場合、これらのカスタマイズされたアセットは顧客のテナント境界内に厳密に分離されたままです。
技術的実行の観点から、AIモデルはAzure Virtual Machines（VM）内で実行される標準ソフトウェアとして動作し、API経由でアクセスされます。
これらは仮想化環境をバイパスする特殊な機能を持ちません。Microsoftはこれらのデプロイメントに厳密なゼロトラストアーキテクチャを適用し、内部と外部のワークロードが本質的に安全ではないと想定しています。
この多層防御アプローチは、基盤となるクラウドインフラストラクチャがVM内に起因する潜在的な悪意のある動作から一貫して分離されていることを保証します。
オープンソースソフトウェアがマルウェアまたは構造的な脆弱性を隠すことができるように、AIモデルも同じことができます。これらの脅威を中和するために、Microsoftはカタログにリリースする前に注目度の高いモデルに対して厳密なセキュリティテストを実施します。
セキュリティチームは感染ベクトルとして機能する可能性のある埋め込みコードを検出するためにマルウェア分析を実行します。また、AIの環境を対象とした特定のCVEおよび新しいゼロデイエクスプロイトを特定するための包括的な脆弱性評価を実行します。
標準的なマルウェアチェックを超えて、研究者はサプライチェーンの侵害を積極的に探します。これには、バックドア、任意のコード実行リスク、および不正なネットワーク呼び出しについてモデル機能をスキャンすることが含まれます。
さらに、 Microsoftは改ざんまたは破損の兆候について内部レイヤー、コンポーネント、およびテンサーを検査することにより、モデルの整合性を検証します。
ユーザーはプラットフォーム内の対応するモデルカードをチェックすることで、このベースラインスキャンを受けたモデルを簡単に確認できます。
DeepSeek R1などの高く注目されているモデルの場合、Microsoftは専用のレッドチームをデプロイすることでさらに一歩進みます。これらの専門家は公開前にソースコードを徹底的にレビューし、システムに対抗的にプローブして隠された欠陥を発見します。
スキャンはすべての悪意のあるアクションを検出することはできませんが、これらのプラットフォームレベルの保護は非常に安全な基盤を提供します。
組織は引き続きモデルプロバイダーへの信頼を評価し、包括的なセキュリティツールを使用してアクティブなAIのデプロイメントを監視することが奨励されています。
翻訳元: https://cyberpress.org/azure-ai-enhances-generative-security/