業務文書をAIに貼り付ける前に削除すべき情報

業務文書をAIアシスタントに貼り付けると、作業内容とは無関係な顧客データや認証情報、社内の機密事項まで流出させてしまう可能性があります。

レポートの要約、メールの書き直し、スプレッドシートの分析をAIツールに依頼する前に、送信する内容を確認してください。英国の国家サイバーセキュリティセンター（NCSC）は、 公開AIのプロンプトに機密情報を入力しないよう助言しています。

実践上の目標は、不要な機密情報を共有せずに、アシスタントが支援できるだけの文脈を与えることです。そのためには、画面上のテキストに加えて、ファイルをアップロードする場合は一見して分からない内容も確認する必要があります。

利用予定の特定のAIツールとアカウントで、その種の情報の取り扱いが組織に認められているかを確認してください。個人アカウントを、雇用主が承認したワークスペースと同列に扱ってはいけません。文書が社外秘であったり、許可の有無が不明だったりする場合は、IT部門やセキュリティ部門に承認済みの手順を問い合わせましょう。

アクセス、保持、学習、連携アプリに関するルールも確認してください。モデルの学習から除外する設定は、この確認事項の一部に答えるにすぎません。機密情報を取り除けばリスクは減らせますが、雇用主のルールが免除されるわけではありません。

認証情報とアクセス権を与えるものは削除する

まずパスワード、APIキー、アクセストークン、秘密鍵、リカバリーコード、認証情報を含むデータベース接続文字列を確認します。トラブルシューティング用のログ、設定ファイル、スクリーンショットにも、見落としやすい形でこうした情報が含まれていることがあります。

秘密情報は、[API_KEY_REMOVED]のように内容が分かるプレースホルダーに丸ごと置き換えてください。作業に必要でない限り、認証情報を一部だけ残すのは避けましょう。アクセストークンを含むリンクや、非公開リソースへのアクセスを許可するURLも削除します。

コーディングやトラブルシューティングの依頼では、ダミーの認証情報を使った小さなサンプルを提示します。モデルに必要なのは問題の構造を理解することであり、お使いのシステムに認証することではありません。

こうした値を保護する重要性はチャットボットにとどまりません。 AI企業がGitHub上でAPIキーなどの秘密情報を露出させていたとの報道が、その例を示しています。

個人情報と個人を特定できる文脈を取り除く

氏名、個人のメールアドレス、電話番号、自宅住所、公的な識別番号、口座番号、顧客IDや従業員IDなどは、必要がなければ削除します。健康情報、給与記録、人事評価、懲戒に関する詳細は、特に機微な情報として扱ってください。

氏名を「従業員A」に置き換えても、特定の人物が分かってしまうことがあります。固有の役職、小規模な事業所の所在地、正確なインシデント発生日、出来事の詳細な経緯から、文書が誰について書かれているかが絞り込めるためです。

英国の情報コミッショナーズ・オフィス（ICO）は、 直接的な識別子を取り除くだけでは、効果的な匿名化には不十分だと説明しています。文脈や、情報同士を結び付けられる可能性も無視できません。

文章作成のタスクであれば、実際の事案を架空の例に置き換えることを検討してください。実データの分析が必要な場合は、名前を手早く置き換えただけでデータセットが匿名化されたと考えず、承認済みのデータ取り扱いプロセスを使いましょう。

機密性の高い事業情報とセキュリティ情報を削る

識別子だけでなく、文書の中身そのものも見直してください。社名が伏せられていても、買収計画、未発表の製品ロードマップ、交渉で得た割引条件、売上予測は機密のままである可能性があります。

OWASPの AIシステムにおける機微情報の漏えいに関するガイダンスは、財務情報、法的文書、事業データ、セキュリティ認証情報を、保護が必要な情報に挙げています。

作業内容や雇用主のポリシーに応じて、次のような情報は削除するか、別の内容に置き換えてください。

• 未公表の財務結果、予算、利益率、予測
• 顧客リスト、契約条件、価格合意、営業案件
• 独自のソースコード、製品設計、研究成果
• 社内のホスト名、ネットワーク図、脆弱性の詳細、インシデント対応に関する情報
• 法的助言、訴訟戦略、機密性の高い人事上の決定

メールを分かりやすくする手助けが欲しいだけなら、正確な契約金額や顧客の身元を伝えても役に立ちません。プレースホルダーに置き換え、実際の詳細は承認済みのエディターで後から挿入しましょう。

依頼する分析にそうした詳細が不可欠な場合は、内容を書き換えたうえで、その回答が元の文書について述べたものであるかのように頼ってはいけません。その情報の取り扱いが承認された環境にタスクを移してください。

ファイルをアップロードする前に隠れたコンテンツを確認する

短いテキストの抜粋を貼り付ける場合と、ファイル全体をアップロードする場合とでは、必要な確認が異なります。アップロードには、アシスタントに使わせたい段落やワークシート以外の内容も含まれる可能性があります。

MicrosoftのDocument Inspectorに関するガイダンスは、コメント、変更履歴、文書のプロパティ、スプレッドシートの非表示の行やワークシート、プレゼンテーションのノートなど、隠れている可能性のあるコンテンツを挙げています。

Windows版の対応するOfficeデスクトップアプリでは、コピーを作成したうえで、[ファイル] > [情報] > [問題のチェック] > [ドキュメント検査]を実行します。Mac版WordにはDocument Inspectorがないため、文書のプロパティ、コメント、変更履歴など、機微な内容が含まれうる箇所を手動で確認してください。検出された内容は、削除する前に確認しましょう。Microsoftは、削除した内容は元に戻せない場合があること、また項目によっては手動での対応が必要になることを注意喚起しています。

スクリーンショットも、氏名、メールアドレス、ブラウザーのタブ、社内URL、通知が写り込んでいないか確認します。PDFの場合は、 適切な墨消しツールを使って墨消しを適用し、別のコピーとして保存します。不要なメタデータ、コメント、添付ファイル、その他の隠れたコンテンツも削除してください。保存したコピーを開き直して結果を確認しましょう。テキストの上に黒い四角形を描いても、その下の内容は削除されません。

可能であれば、必要なテキストだけをローカルの別のドラフトにコピーし、送信前にその抜粋そのものを確認してください。

AIに任せる仕事を小さくする

編集作業の多くは、元の文書を渡さなくても状況を説明するだけで済みます。

氏名、アカウント情報、価格が含まれる顧客とのメールのやり取りをそのまま貼り付ける代わりに、次のように依頼してみてください。

「配送が遅れることを伝える、簡潔でプロフェッショナルなメールを作成してください。ご不便へのお詫びを述べ、改めてのスケジュールを提示してください。プレースホルダーとして[CUSTOMER]と[DATE]を使用してください。」

これなら顧客の記録を開示せずに、目的、トーン、構成をアシスタントに伝えられます。実際の詳細は、その後で組織の承認済みシステム上で追加しましょう。

整理作業は、内容を送信する前に済ませてください。未承認のチャットボットに機密情報を削除するよう頼むには、まずその情報を渡さなければなりません。同様に、プロンプトに「これは非公開にして」と書いても、検証済みのセキュリティ対策の代わりにはなりません。OWASPは、プロンプトによる制限は回避される可能性があると警告しています。

最後に、残っている内容を確認する

送信しようとしているテキストやファイルを、そのまま読み返してください。残っている詳細が、誰かを特定できないか、事業上の秘密を明かさないか、システムへのアクセスを与えないかを確認します。そのうえで、残った内容の取り扱いを承認済みツールが認めているかを確かめましょう。

ブラウザーや利用している拡張機能にも同様の注意を払ってください。 AIとの会話を盗み出した悪意あるChrome拡張機能に関する報道は、周辺のソフトウェアも精査すべき理由を示しています。

セキュリティチームにとっては、これはガバナンスの課題でもあります。組織は、承認済みAIツールと許可するデータ区分の一覧を公開し、従業員が共有してよいもの、削除すべきもの、助けを求めるべき場面を具体例とともに示すべきです。そうすれば、 シャドーAIがもたらすより広範なセキュリティ課題の背景にある未承認サービスに代わる、使いやすい選択肢を従業員に提供できます。

すでに社外秘の文書や有効な認証情報を送信してしまった場合は、それ以上の共有をやめ、インシデント報告の手順に従ってセキュリティチームに連絡してください。漏えいした認証情報は、無効化やローテーションが必要になることがあります。チャットを削除すれば解決すると考えてはいけません。

身につけたい習慣は、まず作業内容を定義し、それを達成できる最小限の承認済みの抜粋だけを共有することです。有用な文脈と機微な内容を確信を持って切り分けられない場合は、貼り付ける前に助けを求めましょう。

AIのヒントやコツ、プロンプト技法をさらに学びたい方へ。eSecurity Planetの読者は、業務でAIをより自信を持って使いこなせるよう設計された実践的な学習プラットフォーム「The Neuron Academy」を7日間無料で利用できます。 すべてのレッスンを見る →

無料で AIとの対話方法（How to Talk to AI）をお教えします。The Neuron Academyの6分間のコースで、より良いプロンプトを書き、より有用な結果を得るための簡単な方法を学べます。ほかのAIコースも7日間無料でご覧いただけます。 すべてのレッスンはこちら →