NVIDIA、Microsoft、CrowdStrikeは、テクノロジー・サイバーセキュリティ・オープンソース関連の幅広い組織連合に参加し、Open Secure AI Allianceを発足させました。
この取り組みは、AIを活用したインフラを防御するためのオープンなツール、モデル、エージェントハーネス、セキュリティ技術の開発に重点を置いています。この連合は、Linux FoundationのAkrites構想やOpen Source Security Foundation(OpenSSF)がこれまで築いてきた土台の上に成り立っています。
その目的は、AIエージェントが企業や重要インフラの環境に組み込まれていく中で、脆弱性の開示・修正・コミュニティ主導のサイバー防御を強化することにあります。
NVIDIA、Microsoft、CrowdStrikeがAIセキュリティ連合を発足
NVIDIAはこの取り組みについて、オープンソースソフトウェアがクラウドサービス、金融、製造業、通信、政府システム、インターネットインフラなど、さまざまな分野の基盤となっていると強調しています。
連合の推進者たちは、オープンなAIモデルやハーネスも同様の防御能力を発揮できると主張しています。セキュリティチームがシステムの挙動を検査し、制御を独自にカスタマイズし、機能をローカルに展開し、機密データを自らの管理下に置くことができるためです。
SecurityProducts & Services
この連合は、独自の最先端モデルを置き換えることを目指しているわけではありません。オープンなシステムをそれらを補完するツールと位置づけ、単一ベンダーへの依存を軽減し、インシデント対応時に組織へより高い柔軟性をもたらすことを狙いとしています。
Hugging Faceが関与した最近のセキュリティインシデントは、この取り組みの必要性を浮き彫りにしました。このインシデントでは、クローズドなAIサービスが正当なフォレンジック活動と悪意ある挙動を見分けるのに苦戦したと報告されており、対応担当者にとっての実効性が制限される結果となりました。
これに対しHugging Faceは、オープンウェイトのGLM 5.25.25.2モデルを自社インフラ上に展開し、17,000件を超えるアクションを分析して封じ込め対応を支援しました。
この事例は、機密性の高いテレメトリや制限されたネットワークアクセスが絡む時間的制約の厳しい調査において、防御側が自社環境内で高度なモデルを実行・検査・微調整できることの重要性を裏付けています。
この連合の発足メンバーには、NVIDIA、Microsoft、CrowdStrikeをはじめ、Adobe、Cisco、Cloudflare、Databricks、Dell Technologies、Elastic、HPE、IBM、Linux Foundation、Palo Alto Networks、Red Hat、Salesforce、SAP、ServiceNow、Snowflake、TrendAIなど、主要な企業・組織が名を連ねています。
参加各社は、エージェントのアイデンティティ、分離、モデルの安全な配布、複数モデルにまたがる脆弱性スキャン、安全な開発ワークフロー、評価フレームワーク、そしてレッドチームツールを包含する共通の防御スタックの構築に向けて協力していきます。
NVIDIAは、AIエージェントハーネスに関連するオープンなモデル、重み、データセット、研究成果を提供しています。同社が新たに公開したNVIDIA Labs Object-Oriented Agent(NOOA)フレームワークは、現在GitHubで公開中です。
このフレームワークは、エージェントの挙動をよりテストしやすく、追跡しやすく、監査しやすく、統制しやすくすることを目指しています。このプロジェクトは、AIセキュリティがモデルの重みだけにとどまらず、権限、アイデンティティ、ログ、ガードレール、オーケストレーション層、継続的な評価にまで及ぶ必要があると強調しています。
他のメンバーによる貢献も、この包括的なアプローチを反映しています。HPEは、AIエージェントやサービスを暗号学的に検証するためのSPIFFE/SPIREゼロトラストアイデンティティ標準をサポートしています。
Hugging Faceは、リモートコード実行に関連するリスクを回避するために設計されたモデル重みフォーマット「Safetensors」を提供しています。IBMとRed Hatは、デジタル署名されたオープンソースパッチを可能にする「Lightwell」の開発を進めています。
一方、Microsoftの「MDASH」ハーネスは、専門特化したAIエージェント群を連携させ、悪用可能な脆弱性の特定・議論・検証を行います。
この連合は、オープンなモデルが悪用されたり、保護機構を回避するために改変されたりする可能性があることを認めています。しかし、同様のリスクはクローズドなエコシステムにも存在すると主張しています。
そうしたリスクは、防御側から有効なツールへのアクセスを奪うことではなく、堅牢な評価、悪用防止ポリシー、迅速な修正、アイデンティティ制御、透明性のあるセキュリティテストによって管理されるべきだとしています。
Open Secure AI Allianceはまた、政策立案者に対し、オープンなAIセキュリティインフラを貴重な防御資産として扱い、共通データセット、攻撃シミュレーター、ベンチマーク、レッドチーミングプラットフォームへの投資を支援するよう求めています。
SecurityProducts & Services
ALERT: 20+ government sites delivered malware to businesses and citizens. See full attack research to check your own exposure.
翻訳元: https://gbhackers.com/nvidia-microsoft-and-crowdstrike-open-source-ai-security/
