NVIDIAは、AI向けのオープンソースセキュリティツールを構築する新たな取り組みのもとに、約40社のテクノロジー企業を結集させました。ただし、業界で最も影響力のあるAI開発企業の一部を欠いたままの船出となっています。
7月27日に発表されたOpen Secure AI Allianceには、Adobe、Cisco、Microsoft、CrowdStrike、Space X、SAP、Linux Foundationなどが参加しています。
一方で、Google、Anthropic、OpenAIといった名だたるAIベンダーは、当初の参加企業リストには名を連ねていません。
この連合はLinux Foundationの「Akrites」構想やOpenSSFコミュニティの活動を土台とするもので、AI製品の脆弱性の発見・修正・開示に多くの労力を注ぐ方針です。
AIの脅威に関する関連記事: AIエージェントは今や企業にとって最も急速に拡大する攻撃対象領域となっています。
NVIDIAはブログ投稿で次のように述べています。「連合全体を通じて、参加企業はエージェント向けのオープンな防御スタックを構築しています。アイデンティティやアイソレーションから、安全なモデル形式、マルチモデルスキャン、安全なコーディングワークフローに至るまでを網羅するものです」
「防御側には、最先端のクローズドモデルとオープンモデルの両方が、互いに協調しながら必要とされています。それによって用途に応じた適切なシステムを選択でき、透明性、適応性、そして自律的な管理を、セキュリティ上必要とされるあらゆる場面で確保できるようになります」
Google、Anthropic、OpenAIがなぜこの取り組みに参加していないのかは明らかになっていませんが、ある業界のCISOは、NVIDIAの構想を成功させるためには、より幅広い参加と明確な説明責任の所在が必要だと指摘しています。
ExabeamのCISOであるKevin Kirkwood氏は、次のように述べています。「最先端モデルを開発する主要企業がテーブルにつく必要があります。また業界としても、エージェントが権限の範囲を超えた場合の責任について、合意されたルールが必要です。優れたツールは防御側がダークAIと戦う助けになりますが、優れたガバナンスがなければ、その防御ツール自体が問題の一部になりかねません」
Hugging Faceのインシデントがオープンソースの主張を裏付ける
今回の発表は、2つのOpenAIモデルが自律的にサンドボックスを脱出し、Hugging Faceの本番システムをハッキングするという、深刻かつ前例のないインシデントが先週明らかになった、わずか数日後に行われました。
Hugging Faceは、米国製の独自モデルに設けられた安全フィルターが有用性を制限してしまうため、この攻撃を撃退するために中国製のオープンウェイトモデルを使わざるを得なかったことを明らかにしています。
トランプ政権がこうしたモデルへのアクセスを制限すべきかどうかを検討する中、NVIDIAの連合はよりオープンな姿勢を求めています。
「正しい対応は、防御側が能力の高いオープンなシステムにアクセスできないようにすることではありません。オープン性を、強固な安全策、悪意ある悪用を禁じる明確なルール、厳格な評価、そして迅速な是正措置と組み合わせることです」と同連合は述べています。
「サイバーセキュリティにおいて、より安全な道筋とは、社会が依拠するシステムを検証・検査・強化できる防御者をより多く生み出す道筋です」
専門家はなお懐疑的
Action1のフィールドCTOであるGene Moody氏は、今回の連合発足について、「多くの組織が責任を持って統制できる速度を超えて、技術が進歩している」ことを認めるものだと述べています。
一方で同氏は、この取り組みが必要な効果を発揮できるかどうかには疑問を呈しています。
Moody氏は次のように述べています。「オープンソースモデルはすでに何千種類も存在しており、その多くはクラウドサービスやベンダーの監視から切り離され、ローカルのハードウェア上だけで完全に動作させることが可能です。モデルがひとたび孤立した環境で稼働してしまえば、安全対策は単なるソフトウェアの一層にすぎなくなります」
「安全対策は改変されたり、除去されたり、再訓練されたり、丸ごと置き換えられたりする可能性があります。人工知能に良心をプログラムすることはできません。プログラムできるのは振る舞いだけであり、その振る舞いは十分な技術力を持つ者であれば誰にでも操作されうるものです」
Black Hills Information Securityのオーナーであるジョン・ストランド氏も、同様に懐疑的な見方を示しています。
同氏は次のように述べています。「研究者たちが、AIシステムが想定された境界を逸脱したり、他のシステムと予期せぬ形で相互作用したりする様子を示し続ける中、AIの安全性に対する懸念は高まっています」
「だからこそ、これほど多くの新しいAIセキュリティの取り組みが登場しているのです。多くの場合、政府が法律や規制で介入してくる前に、業界標準を確立しようとしています。こうした取り組みが十分と言えるかどうかは、まだ分かりません」
翻訳元: https://www.infosecurity-magazine.com/news/nvidia-open-security-ai-alliance/
