OpenAIは新設のOpen Secure AI Allianceに参加せず

強力かつ安全な防御用AIサイバーセキュリティツールをオープンソース基盤上で構築することを促進する新たな業界イニシアチブが発足しましたが、当初の支持企業リストにOpenAIの名前が見当たらないことが注目を集めています。

Open Secure AI Allianceは、Nvidiaが主導するイニシアチブで、Cisco、Databricks、Dell Technologies、HPE、IBM、Microsoft、OpenClaw、Palantir、Salesforce、SAP、ServiceNow、Siemens、Snowflake、Thinking Machinesなど、30社を超える主要AI開発企業・利用企業の支持を得ています。

Nvidiaによれば、この団体設立の動機の一つとなったのが、最近発生したある事件です。OpenAIは同社の最も強力な二つのクローズドソースAIモデルにHugging Faceへのハッキングを許可しましたが、Hugging Face側は防御のためにこの攻撃を分析しようとした際、同様の商用モデルを利用することができませんでした。

「これらのリクエストは、プロバイダー側の安全ガードレールによってブロックされました。このガードレールは、インシデント対応者と攻撃者を区別できないのです」と、Hugging Faceは初期インシデント対応のレポートに記しています。「攻撃者は利用ポリシーに一切縛られていなかった一方で、私たち自身のフォレンジック作業は、最初に試したホスト型モデルのガードレールによって阻まれました」

Hugging Faceは当時知る由もありませんでしたが、実はOpenAIはGPT-5.6 Solおよびもう一つのより高性能な未公開モデルから安全制限を解除していました。これは、これらのモデルの攻撃的なサイバーセキュリティ能力を、制御された環境内だと考えられる場所でテストするためだったとされています。

商用AIモデルが防御には不向きであることが判明したため、Hugging Faceはオープンモデルに活路を見出しました。「代わりに、私たち自身のインフラ上でオープンウェイトモデルであるGLM 5.2を使ってフォレンジック分析を実施しました」と同社は述べています。「防御側にとっての実践的な教訓は、インシデント発生前に、自社インフラで実行可能な高性能モデルを検証・準備しておくことです。それにより、ガードレールによる締め出しを避けられるだけでなく、攻撃者のデータや認証情報が自社環境の外に流出するのを防ぐこともできます」

NvidiaをはじめとするOpen Secure AI Allianceの支持企業各社が適用しようとしているのは、まさにこの教訓です。オープンな技術を用いて脆弱性の修復と開示に取り組んでいくとしています。

「サイバーセキュリティにおいて、オープンなモデルとオープンなハーネスは不可欠です。防御能力を民主化し、防御側にとっての透明性を高め、データを保護しながらサイバー防御を可能にし、さらにカスタマイズ可能でローカライズされた制御によってフロンティアのクローズドモデルを補完するからです」と、Nvidiaはこの新団体に関するブログ投稿で述べています。

OpenAIは、Open Secure AI Allianceに参加する意向があるかどうかという質問に対し、即座には回答しませんでした。