大規模AIリスクガイド

Lerbank-bbk22 | shutterstock.com

あらゆる技術と同様に、人工知能（AI）にも利点だけでなくリスクが存在します。特に生成AI（GenAI）の登場と、それに伴うツールやソリューションの爆発的な普及により、企業はAIに関連するリスクを把握することがこれまで以上に重要になっています。そのため、法務、コンプライアンス、データ保護の責任者にとって、GenAIのテーマはガートナーの調査によれば、今後2年間で最重要課題となっています。

AIリスクに対処し、新たな脅威を最小限に抑え、コンプライアンスやデータ保護を確保するためには、ユーザー企業は自社のAI活用状況を徹底的に評価し、リスクを見極め、ポリシーや戦略を策定する必要があります。評価戦略は、導入しているAIソリューションの種類によって異なります。一般的に、AI技術に関連するリスクは次の3つのカテゴリに分類できます。

• 社内AIプロジェクト、

• サードパーティのAIソリューション、

• 脅威アクターによる悪意のあるAI利用。

以下では、それぞれの分野について詳しく解説します。

社内AIリスクの評価

リスクを評価するためには、まず企業が社内でどのようにAIを活用しているかを把握する必要があります。そのための方法は2つあります。

1. リスク・品質管理フレームワーク

ソフトウェア企業Abbyyは、数年前から自社のAIモデルのパフォーマンスを評価・定量化しています。同社はリスク・品質管理のためのフレームワーク、たとえばISOリスクマネジメントフレームワークなどを活用しています。AI専用のリスクマネジメントフレームワークも現在、米国や欧州で策定中です。

Abbyyが社内のGenAIプロジェクトで主に従来型フレームワークを用いている理由について、AIソフトウェアスペシャリストのAI倫理エバンジェリスト、アンドリュー・ペリー氏は次のように説明します。「これらのフレームワークはまだ非常に初歩的です。導入には時期尚早です。当社の主力製品はドキュメントからデータやコンテンツを抽出するもので、従来型AIモデルには特定の精度目標があります。」

Wizの調査によると、15万のパブリッククラウドアカウントのうち、70％のクラウド環境で生成AIサービスが利用されています。最も人気のあるAIプラットフォームはOpenAI（53％）で、Hugging Faceや他のオープンソースプロジェクトがそれに続きます。これらのプラットフォームの利用には、入力データがAIモデルのトレーニングに使われるなど、さまざまなリスクが伴います。

どのAIソリューションがどこで使われているかを把握することは不可欠です。コンサルティング会社AAreteのテクノロジーサービス担当VP、プリヤ・イラガバラプ氏は、これにはトップダウンとボトムアップの両方のアプローチが必要だと述べています。「経営層はAIが関与するプロセスを確認し、AIガバナンスチームと議論すべきです。経営層がどこでどのAIが使われているか把握していない場合は、ボトムアップアプローチが有効です。全てのエンドポイントを追跡し、AIアプリケーションにアクセスしているシステムやユーザーを特定します。」

これは完璧な解決策ではないと、同氏は認めています。「見落とされることもありますが、ここで重要なのは徹底した教育や研修を行い、従業員が自ら愚かなミスをしないようにすることです。」

2. 独自のAI導入フレームワーク

企業は、自社のコンプライアンス環境やリスク許容度に応じてAIモデルをどのように導入するかのフレームワークも構築すべきです。例えば、すべてのAI出力を手動で確認する必要があるケースも考えられます。「生成AIには複数のリスク次元があります」とイラガバラプ氏。「どれだけ多くの人が影響を受けるのか？インパクトの大きさは？」AAreteは、企業がこれらのリスクを測定するのを支援しています。業界によっては、すでに生成AIリスクのベンチマークも存在します。

この分野に注力するコンサルティング会社も増えています。たとえばErnst & Youngは「AIコンフィデンスインデックス」を開発しました。EYアメリカのリスクマーケットリーダー、カピッシュ・ヴァンヴァリア氏は次のように説明します。「当社の信頼指数は、プライバシーとセキュリティ、バイアスと公平性、信頼性、透明性と説明責任、そして最終的な責任という5つの基準に基づいています。これがインデックスの一軸です。もう一方はコンプライアンスと倫理原則です。これにより、さまざまなプロセスのヒートマップを作成し、各プロセスに重み付けした評価方法を適用できます。」

法務やコンプライアンスの分野では、これらの計算はスコアリング値に基づくため比較的簡単です。他の分野では裁量の余地が大きいとEYの担当者は述べています。「例えば、企業は許容可能なAI利用に関するポリシーなどの要素で成熟度を評価できます。数値スコアを適用して基準を測定し、目標が変わればそれに応じて修正します。」

サードパーティAIリスクの評価

サードパーティサービスに関連するプライバシーやセキュリティの問題は新しいものではありません。どのベンダーも、メール、マーケティング、データサービスに関わらず、機密データにアクセスでき、場合によってはパートナーに提供する可能性があります。この種のリスクを最小限に抑えることは、生成AI登場以前から企業にとって課題でした。今やセキュリティ責任者とそのチームは、警戒を怠れなくなっています。

これまでセキュリティリスクと見なされていなかった画像編集ツールなども、今やGenAI機能を備え、アップロードした情報がAIに渡る可能性があります。これを防ぐには、まずすべての契約書や利用規約を詳細に確認し、常に注意を払う必要があります。さらに、サードパーティ専用のリスクマネジメントチームを設けることでリスク軽減に役立ちます。

セキュリティベンダーExpelのCISO、グレッグ・ノッチ氏は、兆候を見逃さないためのアドバイスをしています。「ベンダーが社内で新しいAI機能を開発している場合、プライバシーポリシーの変更が最初のサインとなることがあります。常に警戒を怠らないでください！」

この点で、欧州の一般データ保護規則（GDPR）も有効です。ベンダーはサブコントラクターと協力する場合、その旨を開示する義務があります。

外部AI脅威の評価

生成AIはすでに不正な目的にも利用されており、（スピア）フィッシングメールの生成などが挙げられます。これは企業のセキュリティチームにとってますます大きな課題となっています。CISOのノッチ氏は次のように述べています。「すべての組織はビジネスメール詐欺から身を守りたいと考えています。しかし、不審なメールを見分ける指標は、人間にとっても機械にとってもますます難しくなっています。AIはメールやウェブサイトをほぼ完璧に偽造できます。」

ペリー氏の勤務先Abbyyは、GenAI脅威に特化したセキュリティベンダーと連携しています。それでもAIリスクの定量化は困難です。今後は新しいフレームワークがこの課題を解決する見込みです。たとえばサイバーセキュリティ専門家ダニエル・ミースラー氏が2023年に発表した「AI Attack Surface Map」などです。サプライチェーン専門企業ReversingLabsのチーフトラストオフィサー、ササ・ズジェラー氏は、今後CISA、NIST、Cloud Security Alliance、ENISAなどの大規模組織がタスクフォースを設立し、新たな脅威への対応を進めると予想しています。

それまでの間、企業は自社が基本をどれだけ徹底できているかを確認できます。たとえば次の点をチェックしましょう：

• すべてのエンドポイントが保護されているか；

• すべてのユーザーが多要素認証を利用しているか；

• 従業員がフィッシング攻撃をどれだけ見抜けるか；

• パッチ適用の遅れがどれほどあるか；

• ゼロトラスト原則がIT環境にどの程度適用されているか。

こうした基本的なセキュリティ対策は、新たな脅威が現れると見落とされがちです。

さらに、ResecurityのCOO、ショーン・ラブランド氏が提案するように、企業は新たな脅威や台頭する脅威にも対応できます。「攻撃的なサイバー脅威インテリジェンスやAI特化型の脅威監視は、新しい攻撃手法や脆弱性、その収益化方法についての情報を提供します。たとえば『FraudGPT』という製品がダークウェブやTelegramで流通しています。」犯罪者ハッカーがAIツールを大規模に利用していることは、SentinelOneのAI担当VP、グレッグ・スチュワート氏も認めています。「自律的に拡散する適応型・多様型マルウェアが急増しています。」

それだけでなく、GenAIは攻撃件数自体も劇的に増加させる可能性があります。世界経済フォーラムは「グローバルリスクレポート2024」で、企業にとってさらなる重大リスクとしてAI生成の誤情報・偽情報を挙げています。こうしたフェイクニュースは、企業の株価に急激な影響を与えることがあります。

リスクに満ちた展望

「企業は、自社における生成AIの現状を評価するための包括的な計画を策定することに注力すべきです」と、Deloitte USAのテクノロジーリーダー、ポール・シルバーグレイト氏は述べています。さらに「それが企業にとって重要であること、正しく実施し、何かあった場合には迅速に対応・是正できる準備ができていることを示す必要があります」と付け加えています。

それが本当に実現し、迅速に行われるかどうかは、Riskonnectの調査（300人のリスク・コンプライアンス責任者対象）を見ると疑問が残ります：

• 93％の企業が生成AIに関連する重大な脅威を予想しています。

• しかし、GenAIリスクについて全社的に教育・周知していると回答したのはわずか17％です。

• 自社がこれらのリスクを管理できる準備ができていると答えたのはわずか9％です。

同様の傾向は、監査・リスク・セキュリティ・プライバシー・ITガバナンス分野の2,300人超を対象としたISACAの調査でも見られます。包括的な生成AIポリシーを持っていると答えたのはわずか10％。さらに悪いことに、4分の1以上がその策定を計画していません。これは重大な過ちだとシルバーゲート氏は説明します。「信頼は聖杯です。顧客の信頼を失えば、それを取り戻すのは非常に困難です。」（fm）