プライバシー重視のテック企業Protonは、ChatGPTやClaudeといった大規模言語モデルが数カ月から数年にわたる会話履歴からユーザーについて何を学習しているかを正確に示す無料ツールを公開しました。この機能は、企業のセキュリティチームが現在直面している「シャドーAI」問題に直接関わるものです。
「AI Paper Trail」と名付けられたこのツールは、ユーザーがChatGPTやClaudeから直接ダウンロードした会話のエクスポートデータを解析する仕組みです。解析後には、どれだけの情報が抽出され、それがどの程度個人を特定できる内容かを数値化する「AI Exposure Score(AI露出スコア)」、職業・習慣・人間関係といった推測された個人情報の内訳、そのデータがAIプロバイダーにとってどれほどの金銭的価値を持つかの推定額、そしてユーザーのデータ共有姿勢を分析した「プライバシータイプ」を含む個人向けレポートが生成されます。Protonによると、アップロードされたファイルは解析後直ちに削除され、同社のサーバーに保存されることは一切ないとしています。
セキュリティ責任者にとって、このツールの公開は微妙なタイミングでの出来事といえます。従業員がメールの下書き作成、文書の要約、コードのトラブルシューティングといった業務関連のタスクに、一般消費者向けのAIチャットボットを使うケースが増えており、しかもそれは企業の可視化やデータガバナンス管理の外にある個人アカウントで行われることがほとんどです。AI Paper Trailは、こうした管理外の利用が時間の経過とともにどのような情報漏えいにつながり得るかを、具体的かつ稀な形で示してくれます。プロジェクトの詳細や顧客名から、業務とは無関係な健康・financial(金融)・人間関係の情報まで、その対象は多岐にわたります。
「AIがデータを収集していることは誰もが理解していますが、自分の会話履歴が時間とともにどれほど多くを物語るようになるかを認識している人はほとんどいません」とProtonのエンジニアリング・機械学習・AI担当ディレクターであるEamonn Maguire氏は述べています。「AI Paper Trailは、その見えないプロファイルを可視化します。私たちは、人々がAIシステムに何を共有しているかを理解し、利用するツールについて十分な情報に基づいた判断を下せるようにしたいと考えています」
同社はExposure Scoreの算出方法やデータ評価額の算定根拠を公表しておらず、この点についてはツールの主張を検証しようとする研究者やジャーナリストから精査の目が向けられる可能性があります。
Protonのプライバシー重視型AIアシスタントを基盤に構築
AI Paper Trailは、Proton独自のAIアシスタントである「Lumo」を基盤としています。同社はLumoを、プライバシーを重視する個人や企業向けに、主要チャットボットの代替となる存在として位置づけています。Protonによれば、Lumoは会話のサーバー側ログを一切保持せず、チャット内容をモデルの学習に利用することもなく、会話はエンドツーエンドで暗号化されているため、Proton自身もアクセスできないとしています。このアシスタントはオープンソースの言語モデルを基盤に構築されており、市場を支配する米国・中国系プロバイダーの管轄外にあるヨーロッパのデータセンターから運用されています。
AI Paper Trailは現在、ChatGPTとClaudeからの会話エクスポートに対応しており、Protonは今後のリリースでさらに多くのAIプラットフォームへの対応を追加する予定です。このツールはlumo.proton.me/aitrailで無料公開されています。
