AIと機械学習
「Computer History」がクリックとタイピングを記録し、ChatGPTの記憶を構築します
コンピューター上での操作をすべて記録し、その記録をOpenAIに送信し、ChatGPTのトークン消費を増やしたうえでプロンプトインジェクションへの脆弱性も高めたい——そんな方のために、OpenAIがぴったりの機能を用意しました。
その名もComputer Historyです。これはオプトイン方式の機能で、アプリやウェブサイトをまたいだコンピューター操作をメモリとして記録し、タイムライン上に整理してくれます。
なぜそんなことをしたいと思うのでしょうか。もしかするとあなたは、Computer Historyの前身であり、スクリーンショットを使って同様の履歴を作成していたChronicleを、いささか侵襲的だと感じたかもしれません。しかしComputer Historyの手法——入力イベントを記録し、暗号化せずにローカルに48時間(あるいはそれ以上)保存し、OpenAIのサーバーにも短時間送信する——であれば気にならない、という方もいるでしょう。
あるいは、OpenAIがドキュメントに記載しているこの警告も気にならないかもしれません。「Computer Historyのファイルには機密情報が含まれる可能性があります。これらはComputer Historyによって暗号化されておらず、あなたのmacOSユーザーとして動作する他のプログラムがアクセスできる可能性があります」。
あるいは、すでにOpenAIのCodexやGPT Workにコンピューターの操作を自由にさせている以上、コンピューターの活動をメモリファイルに保存してタイムライン上に整理することで、ChatGPTの応答が改善され、自動化の機会が見つかりやすくなり、以前の作業を再開しやすくなるという提案に、すでに納得しているのかもしれません。
率直に言えば、Computer Historyはキーロギングおよびイベントキャプチャシステムです。
メガネ型カメラやナンバープレート読み取り装置、監視資本主義、警察のドローンが登場する以前であれば、こうした詮索行為はプライバシー擁護派からの抗議を招いていたことでしょう。しかしテック業界は、監視業務を自社の顧客自身にアウトソースする方法を見つけ出しました。そうすることで、それが個人の選択という体裁を取る以上、パノプティコン(一望監視システム)への抗議はかえって難しくなるのです。
「Computer Historyは、許可されたアプリやウェブサイトからインタラクションイベントのストリームを生成します」とOpenAIのドキュメントは説明しています。「イベントには、クリック、タイピング、キーボードショートカット、アプリの切り替え、そしてmacOSがアクセシビリティシステムを通じて公開するコンテキストが含まれる場合があります。Computer Historyは、これらのイベントを定期的にテキスト要約とローカルのメモリファイルに変換します」。
同社は、Computer Historyが画面の画像やマイク入力、システム音声はキャプチャしないと強調しています。またプライベートモードでのブラウジングもキャプチャしません。
Computer Historyはデフォルトでオフになっており、macOS版ChatGPTデスクトップアプリにおいて、ChatGPT Pro、Business、Enterpriseの各ユーザーが利用できます。Proユーザーは個別に有効化できますが、BusinessおよびEnterpriseユーザーは管理者による承認が必要です。現時点では、欧州経済領域(EEA)、スイス、英国では利用できず、APIキーやAmazon Bedrock経由でChatGPTにアクセスするユーザーも対象外です。
アプリやウェブサイトでのユーザー活動を無許可でキャプチャすることに何らかの良心の呵責を感じる場合、OpenAIはComputer Historyの利用を一時停止すべき状況があるとも示唆しています。
「他者との事前の明示的な同意がない限り、他者とのやり取りの最中はオフにしてください」と同社は助言しています。これはおそらく法的リスクを意識してのことでしょう。「機密性の高い健康、金融、個人情報を含むアプリについては、一時停止するか除外することを検討してください」。
Computer Historyのインタラクションイベントは、ChatGPTおよびCodexによって削除されるまで、最大48時間ローカルに保存される仕組みになっています。
ただし、メモリを生成するためにイベントはOpenAIのサーバーに送信され、それらはより長期間ローカルに保存される場合があるほか、OpenAIに送り返される今後のチャットで使用される可能性もあります。
「OpenAIは、法律で義務付けられている場合を除き、処理後にこれらのイベントファイルを保持することはなく、トレーニングに使用することもありません」と同社は述べています。
同社はチャットログの提出要求には反対の立場を取ってきたものの、法的手続きに応じてチャットログを提出したこともあります。
Computer Historyは、活動内容の要約やメモリデータの生成時にトークンを消費するため、コストが加算されます。また、プロンプトインジェクションの攻撃対象領域も拡大します。
「Computer Historyは、アプリやウェブサイト内のコンテンツによるプロンプトインジェクションのリスクを高めます」と同社は述べています。「例えば、悪意のある指示を含むウェブサイトを訪問すると、ChatGPTやCodexがその指示に従ってしまう可能性があります」。
とはいえ、少なくとも自分の最近の活動を示す素敵なタイムラインは手に入ります。®
