皮肉なことに、中国のオープンソースAIモデルGLM 5.2が、Hugging Face上でOpenAIのGPT-5.6 Solの「暴走」を食い止めた…

最近Hugging Faceで発生したサイバーセキュリティインシデントは、思いがけず中国のオープンソースAIモデルを、オープンウェイトAIをめぐって激化する米国の政策論争の中心に押し上げることになりました。

このインシデントは、中国のオープンウェイトAIモデルに対するより広範な規制がアメリカの開発者やスタートアップに及ぼす影響について、ワシントンが検討を進めている最中に発生しました。

思いがけず重要な役割を担った中国製オープンソースモデル

Hugging Faceによると、アメリカの主要モデルが要請を拒否したため、エンジニアたちはインシデント発生時に生成された情報の分析にZhipu AIのGLM-5.2モデルを頼らざるを得なかったといいます。

アメリカ製のAIモデルは、内蔵された安全制限と保護用のガードレールのせいで、正当な防御調査と悪意あるハッキング行為とを区別することができませんでした。

Anthropicの Claude Fable 5は、サイバーセキュリティに関する質問については、直接対応させるのではなく、より旧式で能力の劣るモデルへ振り分ける仕様になっているとされています。

OpenAIのGPT-5.6 Solにも同様の保護機構が組み込まれており、あらゆる種類のハッキング関連作業にシステムが使われるのを防ぐ設計になっています。

OpenAIは後に、審査を通過した特定のチームに限定して高度な機能への特権的なアクセスを許可する「Trusted Access」プログラムを持っていることを明らかにしました。これにより、自らの防御力を強化する目的で、より深くモデルを活用できるようになります。

Hugging Faceは、今回の侵害を受けてこの制限付き階層に加えられ、通常では得られない、より深いアクセス権を獲得しました。

「私たちは皆、秘密主義が答えではないこと、そしてあらゆる防御側(選ばれた一部だけでなく)が、制限のない、より強力なモデル、とりわけオープンなモデルを必要としていることを学びつつあります」と、Hugging Faceの共同創業者クレマン・ドゥランジュ氏は述べています。

「攻撃側には高性能なモデルが利用可能なまま残っている一方で、正当な防御側の利用を制限する安全体制は、非対称的な不利益を生み出します」と、キングス・カレッジ・ロンドン戦争学部の客員上級研究員であるルカシュ・オレイニク氏は述べています。

「オープンソースモデルがガードレールや制限を欠いたまま、ますます強力になっていくにつれ、このギャップは広がる一方でしょう」

シリコンバレーの企業約200社が、中国のオープンウェイトAIモデルに対する規制の可能性に反対を表明しており、こうした措置は小規模な開発者のコストを押し上げると警告しています。

新たに結成された「Little Tech Association」のメンバーは、ダウンロード禁止措置は拡散の抑制にはつながらず、むしろアメリカのスタートアップを弱体化させるだけだと主張しています。

「たちまち消滅する企業が何百社も出てくるでしょう」と、創業者のスヘイル・ドシ氏は警鐘を鳴らしました。

同氏は、大規模な規制は、こうした変化を吸収するだけの資力を持つアメリカの大手プロバイダーに不釣り合いなほど有利に働くと主張しています。

米国は依然として、モデルの蒸留や輸出管理違反に関する疑惑をめぐり、中国の開発企業への監視を続けています。

ホワイトハウス当局者は、今後の政策決定はあくまで政権自身が下すものであると強調しました。

アナリストたちはまた、Hugging Faceのインシデントを、アメリカの先進システムを守るサイバーセキュリティ対策を弱める根拠として扱うべきではないと警告しています。

「単純にそれらを取り除くのが答えではありません」と、Robert W. Baird社のシュレニク・コタリ氏は述べ、企業は安全対策そのものを放棄するのではなく、アクセス制御を洗練させるべきだと主張しました。

同氏は、機能割り当てに対してより選択的なアプローチを取ることで、正当なセキュリティ上の必要性と、サイバーセキュリティ研究の実務的な要請とのバランスを取れるのではないかと提案しています。