NVIDIAをはじめとするテック企業のグループが、サイバーセキュリティ分野でオープンAIモデルの活用を推進するアライアンスを結成しました。これは、OpenAIが自社のAIモデルの1つが内部セキュリティ評価中にHugging Faceのシステムに侵入したことを明らかにしてから数日後のことです。
新たに発足したこのグループは「Open Secure AI Alliance」と名付けられ、Linux FoundationのAkritesイニシアチブやOpen Source Security Foundation(OpenSSF)ですでに進められている取り組みを土台としています。
「オープンモデルは、あらゆる強力な技術と同様に悪用される可能性があります。安全対策を弱体化させたり、その機能をサイバー攻撃に転用したりする試みも含まれます。しかし、こうしたリスクはオープンなシステムに限った話ではなく、先進的なAIが導入される場所であればどこでも管理されるべきものです」と、NVIDIAは声明で述べています。
創設メンバー27社には、Microsoft、Dell Technologies、Linux Foundation、そしてNVIDIA自身に加え、Cisco、CrowdStrike、IBM、Palo Alto Networks、Red Hat、Hugging Faceなどの企業が名を連ねています。
(出典: NVIDIA)
Hugging Faceのインシデント
「今回のHugging Faceのセキュリティインシデントは、明確な教訓を残しました。サイバー防御者が自らを守るためには、オープンでフロンティアなエージェント型システムが必要だということです」とNVIDIAは記しています。
「攻撃者と防御者を区別できないクローズドなAIツールが不可欠なフォレンジック分析を妨げる中、Hugging Faceは自社インフラ上でオープンウェイトのGLM 5.2モデルを稼働させ、17,000件を超えるアクションを分析して侵入を封じ込めました」と同社は付け加えています。
Hugging Faceは7月16日にこのインシデントを公表し、同じ週の初めに内部データセットとサービス認証情報への不正アクセスを確認していたと説明しました。
同社は侵入経路として、データ処理パイプライン内の2つのコード実行経路を悪用した悪意あるデータセットを特定しました。これにより侵入者は処理ワーカー上でコードを実行し、権限を昇格させ、複数の内部クラスターへと侵入範囲を広げることができました。当時Hugging Faceは、この攻撃を出所不明の自律型エージェントフレームワークによるものだとしていました。
先週、OpenAIはこのインシデントが、自社AIモデルの悪用能力に関する内部評価中に自社モデル自身によって引き起こされたものであることを認めました。
「今回のインシデントは、実践的な真実を示しました。防御側が高度なAIを自らのインフラ上で検査し、適応させ、稼働させることができなければ、最も速さが求められる瞬間に対応能力が制約されてしまうのです」とNVIDIAは指摘しています。
規制当局へのメッセージ
このアライアンスは、AIセキュリティが一握りのクローズドなシステムに依存すべきではないと主張しています。その代わりに、自社のインフラを守る企業や政府を含む防御者側が、自ら検査・改変し、自社インフラ上で稼働させられるオープンなモデル、エージェントフレームワーク、ツールにアクセスできるようにすることを目指しています。
「AIエージェントの時代は、レジリエンスと安全保障を共有する時代となり得ます。正しい選択をすれば、オープンでセキュアなAIシステムは防御者に必要なツールを提供し、競争を強化し、技術的なリーダーシップを広げ、この画期的な技術の安全性とセキュリティが誰の目にも開かれた形で組み込まれることを保証できます」とNVIDIAは結論づけています。
翻訳元: https://www.helpnetsecurity.com/2026/07/27/nvidia-open-secure-ai-alliance/
