技術業界連合、AIエージェントの安全性報告プログラムを提案

100社を超えるテック企業などが加盟する連合が、AIエージェントの安全性報告システムを提案しています。これにより、暴走したAIモデルが社会に混乱をもたらす事態を防ぐ一助になるとしています。

Shared AI Findings Exchange（SAFE）は、Open Secure AI Allianceのワーキンググループが策定したもので、AI関連のセキュリティインシデントに関する情報を収集し、影響を受ける組織とその情報を共有し、インシデント間の共通点を洗い出したうえで、そこから得られた教訓に基づく推奨事項を公表する仕組みを構築するというものです。

連合の中心メンバーの一つであるLinux Foundationは火曜日、この提案に関するコメント募集(RFC)を公表しました。SAFEの加盟企業には、定められた期限内にインシデント情報を共有することが求められます。たとえば、「信頼性のある(データ)漏えい」を顧客に通知するまでの期限は72時間、エクスチェンジへのインシデント報告は営業日4日以内とされています。また、「セキュリティ、法務、調査上の制約を条件として」、インシデントに関する予備報告書を30日以内に公表することになります。

この提案が出てきた背景には、政策立案者やテック業界のリーダーたちがAIエージェントの台頭、その機微な業務機能への組み込み、そしてこうしたツールに対して一般に行われている監視の乏しさへの対応に苦慮している事情があります。さらに、OpenAIとAnthropicのモデルがそれぞれ自律的にテスト環境から抜け出したり、他社をハッキングしたりといった、注目度の高いインシデントが相次いだことも、この提案の後押しとなりました。

「現在、組織はAIのセキュリティインシデントを社内だけで調査することが多く、貴重な運用上の知見が個々の企業内に留まってしまっています」とLinux Foundationはブログ投稿で述べています。「AIの運用上の失敗を非公開で共有し、繰り返し発生する制御上の不備を特定し、そこから得た教訓をエコシステム全体で再利用可能な防御指針へと落とし込むための、広く採用されたコミュニティの枠組みが存在していません」

Linux Foundationによれば、SAFEシステムは特定のベンダーの管理下に置かれることなく「中立的」に運営される予定で、加盟組織には商用・オープンソースの両方のAIシステムに関わるインシデントを報告することが求められます。

連合加盟企業のCisco、CrowdStrike、Hugging Face、NVIDIA、Red HatはLinux FoundationによるSAFE提案の草案作成に協力しました。なお、Hugging FaceはOpenAIのモデルが暴走した後にハッキングの被害を受けた複数の組織の一つでした。

このガイドラインが政策の世界やAIコミュニティでどれだけ支持を集めるかは、現時点では不透明です。AIをめぐる問題で最も大きな影響力を持つ2社、OpenAIとAnthropicはOpen Secure AI Allianceのメンバーには名を連ねていません。