英国、「世界初」のAIセキュリティ標準を発表

英国政府は、欧州電気通信標準化機構（ETSI）を通じて、同技術を安全にするための世界的標準の基盤になると主張する新たなAI実践規範（AI Code of Practice）を発表した。

金曜日に、実施ガイダンスとともに任意の実践規範として公表され、国家サイバーセキュリティセンター（NCSC）およびさまざまな外部ステークホルダーと緊密に協力して策定された。

この規範の13の原則は、AIライフサイクルにおける安全な設計、開発、展開、保守、そして終末期の側面を網羅している。AIを開発し、サードパーティ製AIを利用し、それを顧客に提供するソフトウェアベンダーに影響するほか、自社でAIを作成する、または外部提供のAIサービスやコンポーネントを利用する一般の組織にも影響する。

この規範は、モデルやコンポーネントを提供または販売するものの、それらの開発や展開に関与しないAIベンダーには適用されない。政府によれば、これらの事業体は別途、ソフトウェア実践規範およびサイバー・ガバナンス規範の対象となる。

政府のAI安全性イニシアチブについて詳しく読む: 英国政府、ディープフェイク対策のAI安全性スキームを開始

原則は以下のとおり:

1. 職員研修を通じてAIセキュリティの脅威とリスクに対する認識を高める
2. セキュリティ、機能性、性能を考慮してAIシステムを設計する 
3. AIの利用に関連する脅威を評価／モデル化し、リスクを管理する
4. AIシステムに対する人間の責任を担保する 
5. 相互依存関係／接続性を含む資産を特定し、追跡し、保護する
6. API、モデル、データ、学習および処理パイプラインを含むインフラを保護する
7. ソフトウェア・サプライチェーンを保護する 
8. システム設計および展開後の保守計画について明確な監査証跡を備え、データ、モデル、プロンプトを文書化する
9. 適切なテストと評価を実施する 
10. 展開前テストを含めて安全に展開し、エンドユーザーに対して、データがどのように使用・アクセス・保存されるか、ならびにAIを安全に使用・管理・統合・構成する方法に関する情報を提供する
11. 定期的なセキュリティ更新、パッチ、緩和策を維持する  
12. セキュリティ遵守、インシデント調査、脆弱性修復を支援するため、システムおよびユーザー行動ログを用いてシステムの挙動を監視する
13. 適切なデータおよびモデルの廃棄を確実に行う 

NCSCのCTOであるオリー・ホワイトハウス氏は、政府が先月発表した野心的な「AI機会行動計画（AI Opportunities Action Plan）」に沿ってAIの変革的な力を活用しようとする中で、英国がセキュリティを優先することが極めて重要だと主張した。

「世界のパートナーと協力して作成した新しい実践規範は、悪意ある攻撃に対するAIシステムのレジリエンスを高めるのに役立つだけでなく、英国のAIイノベーションが繁栄できる環境を育むでしょう」と同氏は付け加えた。

「英国はこのセキュリティ標準を確立することで先頭に立ち、デジタル技術を強化し、世界のコミュニティに利益をもたらし、オンラインで生活し働くうえで最も安全な場所としての地位を強化しています。」

この動きは、政府が性的に露骨なディープフェイクの作成を犯罪化する計画を発表 してから、わずか1か月後のことだ。