公開AIアプリでのデータ露出:取るべき7つの対応

次のようなアラートを受け取ったと想像してみてください。顧客情報のスプレッドシートがAIチャットボットに入力され、そのチャットへのリンクが社外に共有されていたというものです。

セキュリティチームがまず確認すべきことは2つあります。受信者には何が見えているのか、そしてアクセスを遮断できるのか、という点です。答えは、チャットに実際に何が表示されているか、そして誰がリンクを開けるかによって変わります。

この仮想シナリオは、AIツールを利用する組織が抱えるセキュリティ上の懸念を示しています。社内データを外部サービスにアップロードしたからといって、ただちにデータが盗まれたことにはなりません。セキュリティチームは、何が共有されたのか、誰がアクセスできたのかを特定し、露出を封じ込めたうえで、想定される影響を評価してから対応を決める必要があります。

まず、どの情報が露出したのかを確認する

OWASP Top 10 for LLM Applicationsは、機微情報の漏えいを、個人データ、認証情報、機密性の高いビジネス情報にかかわるセキュリティリスクとして挙げています。

情報漏えいの疑いを確定した侵害として扱う前に、調査担当者は、入手できる証拠から何が言えるのかを整理しておく必要があります。

セキュリティチームが把握した事実

そこから確認できること

不明のままの点

従業員が機密ファイルをAIサービスにアップロードした 情報が外部プロバイダーに渡った プロバイダーがデータをどう扱ったか、他者がアクセスできたかどうか
共有された会話リンクに機密情報が表示されている 本来の閲覧対象者以外が情報にアクセスできる状態だった 権限のない人物が実際に閲覧またはコピーしたかどうか
信頼できるログに不正アクセスが記録されている 何者かが権限なく情報にアクセスした その人物がコピーを保存または配布したかどうか

セキュリティチームは、従業員が未承認のAIツールに何をアップロードしているかを十分に把握できない場合があります。そのため、 シャドーAIは、従業員に会社の情報を危険にさらす意図がなくても、機微データが露出する原因になり得ます。

AIデータ露出を調査・封じ込めるための7つのステップ

ステップ1:アクセスを遮断する前に証拠を保全する

AIアプリケーションの名称、関係するアカウント、共有URL、関連するタイムスタンプ、影響を受けたファイルを記録します。リンク先に表示される内容も保存し、証拠はアクセスを制限した場所に保管します。

NIST(米国国立標準技術研究所)のインシデント対応ガイダンスは、検知、対応、復旧を連携して進めることを重視しています。セキュリティチームは、調査結果を文書化し、インシデントの調査に必要な証拠を保全する必要があります。

機密情報が公開状態のままであれば、重要な証拠をすばやく収集したうえで、リンクを無効化します。長時間にわたる調査を理由に、封じ込めを遅らせてはいけません。

ステップ2:情報がAIアプリに渡った経路をたどる

入手可能なエンドポイント、ブラウザー、プロキシ、クラウドセキュリティ、データ損失防止(DLP)の記録を確認し、誰がいつ情報を送信したのかを特定します。

Microsoftの データセキュリティ調査ガイダンスは、調査担当者がエンドポイントDLPの証拠や監査記録を使って、影響を受けたファイルやユーザーの操作を調べる方法を説明しています。

AIアプリケーションが社内システムと連携している場合は、その連携がアクセスできたアカウントとファイルを確認します。記録に残っていない部分を把握することも、調査担当者の役目です。従業員がAIのWebサイトを訪問したというログがあっても、何をアップロードしたかまでは分からないことがあります。

ステップ3:会話にアクセスできた人を確認する

共有リンクの権限を確認し、受信者に見えている情報を調べます。

アクセスのルールは、プロバイダーやアカウントの種類によって異なります。たとえば OpenAIのドキュメントによると、個人アカウントで共有されたChatGPTの会話リンクを持つ人は、共有された内容を閲覧できます。管理対象のワークスペースでは、共有の制限が異なります。

リンクによって権限のないユーザーが機密情報を閲覧できる状態であれば、そのデータは露出したことになります。ただし、リンクが存在するという事実だけでは、部外者が実際にコンテンツを開いたりダウンロードしたりしたことの証明にはなりません。

ステップ4:露出を封じ込め、認証情報を保護する

共有リンクを無効化し、影響を受けたAIアプリケーションへの不要なアクセスを制限します。継続的なセキュリティリスクとなる連携は切断します。

露出した情報にパスワード、APIキー、アクセストークンが含まれている場合は、ただちにそれらの認証情報を無効化またはローテーションします。関連するアカウントに不審な動きがないかも確認します。

会話を削除したりリンクを無効にしたりすれば、それ以降のアクセスは防げます。しかし、すでに作られたコピーが消えたことまでは保証できません。

ステップ5:データの取り扱いについてAIプロバイダーに問い合わせる

送信された情報をプロバイダーが保持しているか、また削除要請をどのように扱うかを尋ねます。

データの保持期間や、取得可能なアクセス記録について詳細を求めます。あわせて、アカウントの設定により、プロバイダーが送信内容をモデルの改善に利用できるかどうかも確認します。

プロバイダーからの回答と、確認できた削除やアクセス制限の内容を文書化します。他者がアクセスしたか、あるいは情報を保持しているかをプロバイダーが確定できない場合は、その不確実性も記録しておきます。

ステップ6:情報漏えいの通知が必要かどうかを判断する

露出した情報に個人データ、顧客記録、規制対象の情報が含まれる場合は、法務、プライバシー、コンプライアンスの各チームを関与させます。

報告義務は、適用される法律、関係する情報の種類、影響を受ける個人への潜在的な被害によって決まります。たとえば英国の 情報コミッショナーオフィス(ICO)は、一定の個人データ侵害について、不当な遅滞なく、可能であれば認識から72時間以内に報告するよう組織に求めています。

AIへの不正なアップロードのすべてが、規制当局への通知を必要とするわけではありません。ただし、組織は評価内容を文書化する必要があります。また、調査が完了していないという理由だけで、必要な報告を遅らせてはいけません。

ステップ7:セキュリティ対策を強化し、検証する

従業員が利用できるAIアプリケーションと、送信してよい情報の範囲を見直します。データ分類ルールを適用し、不要な連携を制限したうえで、承認済みの代替手段を用意します。

Microsoftは、機微情報をAIアプリケーションに貼り付けたりアップロードしたりできないようにする DLP制御を推奨しています。セキュリティチームは、これらの制限が意図どおりに機能するかをテストして確認する必要があります。

確立された対策であっても、機能しなくなることがあります。eSecurity Planetは以前のインシデントとして、DLPの制限を回避する Microsoft 365 Copilotのバグを報じました。このバグにより、既存の保護策があるにもかかわらず、アシスタントが機密メールを要約できる状態になっていました。Microsoftは、この問題によってユーザーが、本来アクセス権を持たない情報にアクセスできるようになったわけではないと説明しています。

インシデントを終結させる前にセキュリティチームが確認すべきこと

調査を終結させる前に、セキュリティチームは次の点を確認する必要があります。社外に出た情報は何か、誰がアクセスできたのか、どの封じ込め措置を完了したのか、そして何が未検証のまま残っているのかです。

最終報告書には、未解決のプロバイダーへの要請、影響を受けた認証情報、再発防止のために導入したセキュリティ上の変更を記載します。

不正アクセスを示す証拠がないからといって、誰もアクセスしなかったことの証明にはなりません。調査担当者は、データが盗まれた、あるいは完全に回収できたと決めつけず、確認済みの事実と未解決の疑問を区別する必要があります。

共有された会話を削除すれば、それ以降のアクセスは止まるかもしれません。しかし、根本的なセキュリティ上の問題が解決するわけではありません。組織は、情報がどのようにAIサービスへ渡ったのかを把握し、本来それを守るはずだった対策を強化しなければなりません。

関連記事:機密性の高い業務システムへのAIのアクセスを制限する方法については、eSecurity Planetの AIエージェント安全チェックリストもご覧ください。

翻訳元: https://www.esecurityplanet.com/artificial-intelligence/news-public-ai-app-company-data-exposure-response/

本記事は esecurityplanet.com の記事を翻訳・要約したものです。