3Mが関わったChatGPT訴訟事案が示すAIガバナンスの課題

3Mが関わったWatson Grinding爆発事故訴訟のある一点が、私のプロンプトガバナンスに対する考え方を変えました。3Mが依頼した工学専門家は分析を進める過程でChatGPTを使用しており、その後明らかになった会話の中には「3Mの過失が0%であることを示せ」というプロンプトが含まれていました。3Mがこの専門家にChatGPTの使用を指示した、あるいはそのプロンプトを入力するよう指示したことを裏付ける報道はなく、この違いは重要です。しかし同じくらい重要なのは、AIとのやり取りそのものが問題の焦点になったときに何が起きたかという点です。

原告側弁護士のWill Moye氏は、ChatGPTで生成されたとみられる資料を発見した後、証言録取(デポジション)でこの専門家を尋問したときの様子を自身のLinkedIn投稿で説明しています。Moye氏によれば、彼が元となったプロンプトの開示を求めたことで証言録取は一時中断となり、およそ3時間後、それまで提出されていなかった350ページを超えるChatGPT関連資料が提供されたといいます。問題はもはや専門家の完成した報告書に記載された内容だけにとどまりませんでした。その背後にある会話自体が調査対象の一部となったのです。

この話は、私にとってすぐに既視感のあるものでした。私はキャリアの大半を、何か問題が起きたり判断に異議が唱えられたりしたときに、最終的な文書だけでは何が起きたかを説明するのに不十分な環境で過ごしてきました。承認記録、システムログ、チケット、作業の方向性を変えたメッセージ、あるいは本来実施されるべきだったのに行われなかったプロセスの一手順といった、周辺の証拠から物語を再構築するのです。公式な成果物はプロセスがどこで終わったかを示してくれますが、そこに至った経緯を理解するために必要な文脈は、しばしば周辺の記録の中にあります。AIは今、その記録の層をさらに一つ加えつつあります。

プロンプトが意思決定記録の一部になり得る

ここ数年、企業における生成AIリスクをめぐる議論は、主に入力情報に焦点を当ててきました。各組織は従業員に対し、独自開発のコードをChatGPTに貼り付けない、機密性の高い顧客情報をアップロードしない、個人を特定できる情報を露出させない、保護された知的財産を公開AIツールに入力しないよう注意を促してきました。こうした対策は必要であり、規制の厳しいテクノロジー環境での私自身の経験からも、各組織がそこから着手した理由はよく理解できます。しかし、入力情報の保護は問題の一部に対処しているに過ぎません。AIとのやり取りは、最終的な回答を生み出す過程についての情報も保持し得るのです。

あるエンジニアがAIアシスタントを使って2つのアーキテクチャを比較し、望ましい方の選択肢が勝つまで前提条件を何度も変更するケースを考えてみてください。調達担当のアナリストが、実質的にすでに選定済みのベンダーを正当化する最も説得力のある論拠をAIに作らせることもあり得ます。マネージャーが、すでに下した雇用に関する判断を後付けで文書化するためにAIを使うこともあれば、監査担当者やコンプライアンス担当者が、統制上の不備がより軽微に聞こえるまでプロンプトを修正し続けることもあり得ます。これらのシナリオはいずれも、AIが幻覚(ハルシネーション)を起こしたり誤動作したりすることを前提としていません。技術は設計どおりに完璧に機能していながら、そのやり取り自体が、最終的な成果物には表れない前提条件や望ましい結論、却下された代替案、検討の方向性を記録として残してしまうのです。

だからといって、プロンプトがその人の思考や意図を証明するわけではありません。人はAIを使って主張を検証したり、あえて反対の立場を取ってみたり、自分の前提を疑ってみたり、最終的には採用しないかもしれない立場を探ったりします。したがって、文脈から切り離された単一のプロンプトは誤解を招く可能性があります。しかしまさにそれゆえに、やり取りの履歴が重要な意味を持ち得るのです。つまり、完成度の高い最終成果物だけでは得られない、分析がどのように展開していったかについての証拠や文脈を提供し得るということです。

米国法曹協会(ABA)はすでに、証拠開示手続きにおける新たな資料源としてAIのチャット履歴を検討しています。これは、そうした会話が、完成した成果物には決して反映されない疑問点や放棄された仮説、思考の道筋を保持し得るためでもあります。業務ガバナンスの観点から見ると、これは証拠開示の問題にとどまらない、より広範な課題だと私は考えています。AIとのやり取りは、重大な意思決定を取り巻く証拠の一部になり得るにもかかわらず、多くの組織はその証拠をいつ保持すべきか、誰が管理責任を負うのか、どのように統治すべきかを決めていません。

入力は守ったが、ライフサイクルを見落としていた

Watson Grinding訴訟の事例は、企業のAI活用について考える際に私が今問いかける質問の一つを変えました。組織がモデルにどんな情報を与えているかを知りたいという気持ちは今も変わりませんが、それと同時に、人々がAIを使っている間にどんな記録が生成されているのかも知りたいと考えるようになりました。この二つ目の問いは、議論を利用規定(acceptable-useポリシー)の範囲を超えて、情報のライフサイクル管理へと広げるものです。

AIとのやり取りは、画面に回答が表示された時点で必ずしも終わるわけではありません。会話そのもの、生成された出力、その資料がどのように共有されるか、どこに保存されるか、どれだけの期間利用可能な状態にあるか、誰がそれを取得できるか、そして最終的に誰かがそれを削除したときに何が起きるか、といった要素が続きます。ほとんどの組織は、このライフサイクルの終盤よりも始まりについて考えることに、はるかに多くの時間を費やしてきました。

共有会話のようなごく普通の機能でさえ、この問題を浮き彫りにします。ChatGPTの共有リンクに関するOpenAIのガイダンスでは、共有リンクを持つ人なら誰でも関連する会話を閲覧できると説明されています。OpenAIは2025年に、共有会話を検索エンジンで発見可能にする別のオプションを廃止しましたが、より広範なガバナンス上の課題は残ったままです。つまり、個人のワークスペースのように感じられる場所で作成された情報が、ごく通常の製品機能を通じてその外部からアクセス可能になり得るということです。従業員がChatGPT、Copilot、Claude、Gemini、そして専門特化型のAIアプリケーションを、それぞれ異なる保持設定、管理者権限、ログ機能、共有オプションのもとで使用している企業全体にこの問題を当てはめれば、課題は基本的なAI利用規定の範囲をたちまち超えていきます。

私は、すべてを保存しておくことが答えだとは思いません。ガバナンスや業務プロセスに携わる中で学んだ教訓の一つは、文書化を増やせば自動的に統制が強化されるわけではないということです。組織は膨大な量の証拠を蓄積しながらも、何が重要か、誰がそれを管理すべきか、どう活用すべきかを見極めるのに苦労し続けることがあります。すべてのプロンプトを無期限に保存すれば、それ自体がプライバシー、セキュリティ、証拠開示、業務運営上の新たなリスクを生み出すことになるでしょう。

より良いアプローチは、業務の重要度に応じてガバナンスのレベルを決めることです。従業員がメールの文章をより分かりやすくするようAIに依頼するケースと、エンジニアが安全性分析を裏付けるためにAIを使うケース、監査担当者が統制を評価するケース、マネージャーが雇用に関する判断を下すケース、経営幹部が重要な経営判断のためにAIを頼りにするケースを、同列に扱うべきではありません。想定される結果の重大性が増すほど、そのプロセスにおいてAIが果たした実質的な役割を理解する必要性も高まります。

リスクの高い用途については、何が起きたかを再構築できるだけの来歴情報を保持することが求められるかもしれません。具体的には、実質的な意味を持つプロンプトと出力、使用したAIシステム、意味のある人間によるレビューがあったことの証拠、そしてAIが最終的な意思決定にどう寄与したかを理解するのに十分な文脈です。目的は、ある人物の思考の一挙手一投足をすべてアーカイブすることではありません。説明責任が問われたときに何が起きたかを説明できるだけのプロセスを保持しておくことです。

そのためには、明確な管理責任の所在も必要です。AIチームが記録管理に関する判断を独断で下すべきではありませんし、法務やコンプライアンスのチームが、訴訟や調査が始まってから初めてAIプラットフォームの情報保持の仕組みを知る、という事態も避けなければなりません。CIOは、何を保持し、何を意図的に失効させ、何を共有可能とし、何を復元可能とし、リスクの高いAIとのやり取りが法的保全(リーガルホールド)や調査にどう関わるかを決定する責任を、テクノロジー、記録管理、法務、セキュリティ、コンプライアンスの各部門にまたがって明確に定義する必要があります。

こうした原則は、プロンプトエンジニアリングというより情報ガバナンスの話のように聞こえるかもしれません。それこそがまさに重要な点です。AIが企業の重要な業務により深く入り込むにつれ、ガバナンス上の課題はもはや、承認済みのモデルを使用したかどうか、禁止された情報を入力したかどうかにとどまりません。組織は、そのやり取り自体がどのような証拠を生み出し得るかについても理解する必要があります。

1年後にその意思決定を再構築できるか

業務システムに携わる中で私が身につけた習慣の一つは、将来行われるかもしれない調査を起点に逆算して考えることです。すべてのプロセスが失敗すると想定しているわけではありませんが、6か月後、あるいは1年後にどんな証拠が必要になるかを問うことで、説明責任についてより明確な議論を促すことができます。もし後になってある決定に異議が唱えられた場合、その組織は、どんな情報が利用可能だったか、AIがどんな役割を果たしたか、人間が何を受け入れて何を却下したか、そして最終的に誰がその決定に責任を負っていたかを示すことができるでしょうか。

AIの会話に対する法的な扱いはまだ発展途上にあり、すべてのプロンプトが自動的に証拠開示の対象になるわけではありません。秘匿特権、ワークプロダクト(弁護士業務成果物)の保護、関連性、占有の有無、比例性、そして個々の事案の状況によって、資料の提出が必要かどうかは変わり得ます。例えばニューヨークのある裁判所は、訴訟当事者のChatGPT記録を入手しようとする試みを最近退けました。問題となった資料は保護された法律調査に当たると判断されたためです。こうした不確実性は、組織がこの問題を放置してよい理由にはなりません。むしろ、監査担当者、規制当局、調査官、あるいは相手方の弁護人からこの問題を突きつけられる前に、意図的なガバナンス上の判断を下しておくべきだという後押しになるはずです。

Watson Grinding訴訟によって、私はすべてのAIプロンプトが記録であると確信したわけではありません。しかし、AIとのやり取りがいつ「記録として扱うべき」と言えるほど重大なものになるのかを、組織が把握しておく必要があるという確信を得ました。

私の同僚でサイバーセキュリティの専門家であるJosh Copeland氏は、この説明責任をめぐるリスクを印象的な言葉で表現しています。「AIはあなたの代わりに証言してはくれない。あなたの代わりに服役してもくれない。あなたの代わりに罰金を払ってもくれない。しかしAIは間違いなく、あなたに不利な証言をする」

これは、AIを重要な業務に活用しているすべての組織が答えられるべき、一つの問いを残します。もし1年後にこの決定に異議が唱えられたとしたら、私たちはそれが実際どのように下されたのかを再構築できるでしょうか。