主要なギャップを補う5つのAIリスク管理フレームワーク

AIをビジネス業務に組み込もうと急ぐ組織は、数十年にわたって依拠してきたリスク管理フレームワークが、AIシステムのもたらす動作特性・障害モード・倫理的複雑さに対応できるよう設計されていないことに気づき始めています。

幸いなことに、AI特化型の新世代フレームワークが登場し、AIがどこで問題を起こしうるか、どのような管理策を講じるべきか、そして規制当局・顧客・投資家に対して責任あるAI活用をどう示すかを、組織が体系的に把握できる仕組みが整いつつあります。これらの新興フレームワークはすべて同じ問題を扱っているわけではありません。ガバナンスと組織としての説明責任に焦点を当てるもの、技術的なセキュリティ管理策・脅威モデリング・規制対応を重視するものなど、それぞれ目的が異なります。自組織に最適なフレームワークを選ぶには、最も喫緊の課題がどこにあるかを見極めることが重要です。

これらのフレームワークは互いに競合するものではなく、補完し合う関係にあります。それぞれ異なる意図・優先事項・目標を持っているからです。そう語るのは、DarktracのCISOであるNicole Carignan氏です。

「各フレームワーク間には重複する部分もありますが、その重複はむしろ有益です」とCarignan氏は指摘します。「ガバナンス・データの整合性・セキュリティ・説明責任・監視・テスト・継続的改善といった、組織が確実に実践すべきコアな取り組みが強化されるからです。」

以下に、AIリスク管理ニーズへの対応として検討に値する5つのフレームワークをご紹介します。

ISO/IEC 42001 人工知能マネジメントシステム

ISO/IEC 42001:2023は、AIマネジメントに関する世界初の国際公式規格です。国際標準化機構（ISO）と国際電気標準会議（IEC）が2023年12月に発行したこの規格は、ISO 27001などのマネジメントシステム規格と同様の構造を持っています。組織がAIの責任ある開発・活用を確保するためのポリシー・プロセス・運用管理策・説明責任の仕組みを構築するための体系的な方法論を提供しています。

ISO/IEC 42001は、AIシステムの設計・監視・検証・制御の方法を文書化することを組織に求めるとともに、潜在的な法的・倫理的・社会的影響を評価するためのAI影響評価の実施も義務付けています。ガバナンス構造・サードパーティサプライヤーの監視・データ管理・透明性の確保・ライフサイクル管理もカバーしています。

ISO/IEC 42001は任意ではありますが認証取得可能な規格であり、業種や組織規模を問わず適用できます。責任あるAI実践の遵守と、EU AI法などの規制への準拠を示すために、この規格の活用を始める組織が増えています。ISOとIECは同フレームワークについて、組織のAI実践を法規制要件に沿ったものにし、責任あるAIガバナンスを実証し、バイアス・安全性・セキュリティに関するリスクを管理し、ステークホルダーの信頼を高めるものだと説明しています。

ISO 42001はAIリスク管理に取り組み始めたばかりの組織に最適な選択肢だと、DarktracのセキュリティおよびAI戦略担当上級副社長兼フィールドCISOのNicole Carignan氏は述べています。

「個々のAIリスクに個別対処するのではなく、AIリスク管理プログラム全体の基盤構築に最も適しています」と同氏は説明します。「プログラム構築の観点から言えば、ISO 42001は出発点として最適です。所有権・ガバナンス・監視・データの整合性・セキュリティリスクの低減・説明責任・継続的改善について、組織が総合的に考えることを促してくれるからです。」

Carignan氏が指摘するデメリットとして、このフレームワークは実装に多くのリソースを要し、規格の全文が一般公開されていない点が挙げられます。AIガバナンスの取り組みをまだ始めたばかりの組織にとって、これら両方の課題は大きな壁になりうると同氏は言います。

NISTのAIリスク管理フレームワーク（AI RMF）

米国立標準技術研究所（NIST）が2023年1月に公表したAIリスク管理フレームワーク（AI RMF）は、あらゆる規模・業種の組織がAIシステムのライフサイクル全体にわたるリスクを特定・評価・管理するための任意のフレームワークです。

このフレームワークは2つのパートで構成されています。第1部では、有効性・安全性・セキュリティ・透明性・説明可能性・プライバシー・公平性といった信頼できるAIシステムの特性と、AIリスクについての考え方を解説しています。第2部は、相互に連携する4つの機能を軸に構成されています。

• Govern（統治）：AIの活用に向けた組織文化・ポリシー・説明責任の構造を構築するために組織が取るべき行動に焦点を当てます。
• Map（把握）：特定のAIシステムの広範なコンテキストと潜在的リスクの理解に取り組みます。
• Measure（測定）：定性的・定量的な手法を用いてリスクを評価・追跡する方法に焦点を当てます。
• Manage（管理）：リスクの優先順位付けと、軽減・移転・受容といった適切な対応策に関するガイダンスを提供します。

NIST AI RMFには、各機能を効果的に実装するための実践的な手順を示す別冊のプレイブックも含まれています。

ISO 42001の正式取得を目指す準備が整っていない組織にとって、NIST AI RMFはより柔軟でアクセスしやすい出発点として活用できるとCarignan氏は述べています。

「一般公開されており、AIリスクの理解と軽減に向けた共通言語を組織に提供してくれます」と同氏は付け加えます。「ただし、長期的に機能するAIリスクプログラムの構築が目標であれば、ISO 42001の方が強固な基盤となります。」

Acalvio CEOのRam Varadarajan氏は、NIST AI RMFをAIリスクガバナンスの出発点として推奨しています。その理由は「合否判定型の監査ではなく、成熟度に基づいて構築されているから」です。このフレームワークは、ゼロからスタートする組織が不合格の烙印を押されることなく、現在の立ち位置を把握する機会を与えてくれます。

「さらに重要なのは、最初に必ず行うべき3つの対話を促してくれる点です。AIリスクの責任者は誰か、実際にどんなAIが稼働しているか、そして何かが問題を起こしたとき誰が被害を受けるか、という議論です」とVardarajan氏は述べています。

Forresterのリサーチャーたちは、NIST AI RMFの公表直後に正しい方向への一歩と評価した一方で、フレームワーク策定に携わった複数のステークホルダー間の利益相反、データガバナンスに関する明確な役割の欠如、そしてフレームワークが「いまだに記述的であり規範的ではない」点についての懸念も表明しました。

その結果、「最高データ責任者やデータサイエンス部門の責任者は、このフレームワークをAIガバナンスの取り組みに解釈・適用する際に、賢明に活用する必要がある」と同調査会社は助言しています。

ENISAのAIサイバーセキュリティ実践フレームワーク

欧州連合サイバーセキュリティ機関（ENISA）は、EU AI法を見据えてAIサイバーセキュリティ実践フレームワーク（FAICP）を策定しました。2023年6月に公表されたこのフレームワークは、EU域内の組織がAI活動の信頼性を高めるための体系的なAI特化型サイバーセキュリティガイダンスを提供しています。

FAICPは3つの段階的なレイヤーで構成されています。第1レイヤーは、AIシステムが標準的なソフトウェアインフラ上で動作することによって引き継ぐ、ICTサイバーセキュリティの基礎的な実践をカバーしています。第2レイヤーは、敵対的攻撃・モデル改ざん・データパイプラインの完全性・サプライチェーンセキュリティといったAI固有のリスクに対処しています。第3レイヤーは、エネルギー・医療・通信などの規制産業向けにセクター別ガイダンスを提供しています。

欧州議会によれば、FAICPの階層的な構造は組織にAI活動の信頼性向上に向けた「段階的なアプローチ」を提供するものだとされています。

FAICPは任意のフレームワークですが、EU AI法およびEUの主要なサイバーセキュリティ法であるNIS2指令との高い整合性から、EU規制当局はEU域内でビジネスを行うすべての組織のAIガバナンス実践における基準として、このフレームワークを位置付けています。

FAICPが重要な理由について、「欧州のAI法は、欧州のデータプライバシー法が本社所在地を問わず世界中の企業の事実上の標準となったのと同様に、グローバルな参照基準となる可能性が高い」とVardarajan氏は予測しています。

「今後2〜3年のうちに、2つのフレームワークが主流となるでしょう。EU AI法が法的な最低基準を設定し、NIST AI RMFがそれを満たすための実践的なプレイブックを提供するという形です」とVardarajan氏は述べています。

ISO/IEC 23894:2023 情報技術 — 人工知能 — リスク管理ガイダンス

ISO/IEC 23894:2923フレームワークは、人工知能に関連するリスクを管理するための具体的なガイダンスを組織に提供します。ISOとIECが2023年2月に共同発行したこのフレームワークは、ISO 31000の一般的なリスク管理規格を基盤としつつ、アルゴリズムのバイアス・モデルのドリフト・予測不可能な動作・意思決定の透明性の欠如といったAI固有のリスクに対応するよう拡張されています。AIシステムのライフサイクル全体にわたって、これらリスクの発生可能性と潜在的な影響を評価する手段を組織に提供しています。

ISOはこの規格を「ISO 31000（リスク管理）およびISO/IEC 42001（AIマネジメントシステム）の補完規格」と説明しています。ISO/IEC 42001とISO/IEC 23894の主な違いは、前者が認証取得可能なマネジメントシステム規格である点にあります。ISO/IEC 42001はAIマネジメントシステムの確立・実装・維持に必要な要件をすべて提供するものです。一方のISO/IEC 23894:2023は、AI固有のリスクをどのように特定・評価・管理するかに特化したガイダンス規格に位置付けられています。

英国支援のAI Standards Hubによると、「ISO/IEC 23894はAI開発ライフサイクル全体を通じた効果的なリスク管理の実装と統合に関する具体的な事例を提供し、AI固有のリスク源に関する詳細な情報を記載している点が注目されます。この規格の主な利点は、どの組織およびそのビジネスコンテキストにも合わせてガイダンスの適用をカスタマイズできることです。」

GoogleのセキュアAIフレームワーク（SAIF）

GoogleのセキュアAIフレームワーク（SAIF）は、デジタル脅威に対する強固な保護機能を備えたAIシステムの開発・運用を支援するためのGoogleが作成した実践的ガイドです。2023年に公開されたSAIFは、設計から展開・継続運用に至るAIプロジェクトのあらゆる段階に、セキュリティとプライバシーの考慮事項を直接組み込むことに重点を置いています。

その主な目的は、学習データへの改ざん攻撃・精巧なプロンプトによるモデルへの誤誘導・機密情報の窃取といった、AIテクノロジーに固有の脆弱性に対処することです。SAIFはGoogleが大規模AIシステムを開発・展開してきた自社の経験を基盤としているため、他のフレームワークと比べてエンジニアリング寄りの内容となっています。SAIFは主に、組織のAIシステムをサイバー攻撃やサイバー脅威アクターに対してより堅牢にすることを目的としており、データ処理・基盤インフラ・AIモデル自体・ユーザー向けアプリケーション・検証プロセスといった分野を網羅しています。実装管理策・責任の共有・技術的攻撃への防御に関する実践的なガイダンスを組織に提供しています。

テクノロジーコンサルティング会社のThoughtworksは、SAIFをデータポイズニングやプロンプトインジェクションといった「一般的な脅威に対して、明確なリスクマップ・コンポーネント分析・実践的な軽減戦略を通じて体系的に対処」できるフレームワークとして評価しています。同社によると、SAIFの「エージェント型システム構築における進化するリスクへの注目は、特にタイムリーで価値があります。SAIFはLLM活用やAI駆動アプリケーションのセキュリティ実践を強化するための、簡潔で実行可能なプレイブックを提供しています。」

BugcrowdのチーフAI・サイエンスオフィサーであるDavid Brumley氏は、フレームワーク採用を検討している組織にとって本当の問いは「どのAIリスクフレームワークが最良か」ではなく、「どのフレームワークが自組織によるAIの安全な構築・展開・実世界での学習を支援してくれるか」だと述べています。

現在利用可能なAIリスクフレームワークの多くはそれぞれ有用ですが、大半はいまだに悪い結果を防ぐことに主眼を置いており、すでに不可避となった技術に向けた安全な道筋を組織が切り開く支援には向いていません。

「その違いは重要です」とBrumley氏は述べています。「AIの採用は完璧なガバナンスを待ってはくれません。リスク管理フレームワークに固執すると、組織内にシャドーAIの問題を生み出しかねません。」