AI and ml
調査を行った研究者は、アップロードは停止したものの、xAIのプライバシーコマンドが原因で解決したわけではないと指摘
Grok Buildがユーザーのリポジトリを丸ごとクラウドストレージにアップロードしていた問題を暴いた研究者によると、サーバー側の変更によって転送は停止したとのことです。一方でイーロン・マスク氏は、これまでにアップロードされたユーザーデータをすべて削除すると別途約束しています。
AI安全性の研究者集団Cereblabは日曜日、SpaceXAIのコマンドラインインターフェース(CLI)であるGrok Build、およびそのCLIとSpaceXAIのサーバー間でやり取りされるデータについての調査報告書を公表しました。
Cereblabによると、Grok Buildがファイルを読み込んだり処理したりする際、そのファイルの内容が編集(レダクション)されないままSpaceXAIが使用するGoogle Cloud Storageバケットへ送信されていたといいます。さらに、Grok Buildはユーザーのプロンプトに答えるために必要なファイルだけをアップロードするのではなく、リポジトリ全体をパッケージ化してGitバンドルとしてアップロードしていたと主張しています。
Cereblabの報告書によれば、SpaceXAIのデータ保持のあり方は、Claude Code、Gemini、Codexといった他のCLIをはるかに超えていました。これらのCLIは個々のファイルを開くだけで、リポジトリ全体をGit履歴込みでアップロードすることはありません。
この研究者は、無害なプロンプトを使ってこの挙動を検証しました。CLIに対し「OK」とだけ返答するよう指示し、ファイルを一切開かないよう明確に指定したのです。
それにもかかわらず、Grok Buildはリポジトリ全体を、数カ月前に削除済みだった機密情報を含むGit履歴一式とともにアップロードしました。この結果は、Cereblabが別のリポジトリを使って再現に成功しています。
Cereblabの報告書公開後、他のGrok Buildユーザーからも同様の報告が相次ぎました。あるユーザーは、SSHキーやパスワードマネージャーのデータベースなどを含むユーザーディレクトリ全体が開かれ、アップロードされていたと報告しています。
この一連の発見は大きな注目を集め、SpaceXAIの幹部やマスク氏本人が公にコメントするとともに、同社は急遽対応策の実装に踏み切りました。
Cereblabは、CLIの開発陣がdisable_codebase_uploadを「true」に設定した後、Grok Buildがリポジトリ全体をサーバーへ送信する動作を停止したことを確認したとしています。
この確認が取れたのは、SpaceXAIが見解を表明し、Grok Buildは(特にエンタープライズ環境において)引き続き安全に利用できると周囲を安心させようとしてから数時間後のことでした。
Xを通じて発表された公式声明では、Grok Buildはゼロデータ保持(ZDR)を有効にした顧客の意向を尊重しており、ZDRを有効にしていない非エンタープライズ顧客などについても、簡単なコマンドを実行すればそのユーザーに関してこれまで収集されたデータをすべて削除できるとしています。
「私たちはお客様のプライバシーを深く重視しており、お客様の選択を尊重します」とSpaceXAIは述べています。「ゼロデータ保持を利用しているチームについては、痕跡やコードデータが保持されることは一切ありません。APIキーを利用したGrok Buildの使用もすべてZDRに準拠しています。
「ZDRを無効にしている場合でも、CLI内で/privacyコマンドを使えばデータ保持を無効化でき、これによりこれまで同期されたデータも削除されます。
「/privacyコマンドを実行すれば、いつでも設定の確認・変更が可能です」
テクニカルスタッフのアンドリュー・ミリッチ(Andrew Milich)氏とジェイソン・ギンズバーグ(Jason Ginsberg)氏はいずれも、憤慨するエンジニアたちに応じる形で同社の見解を繰り返しました。その後、マスク氏本人も「true」というお決まりの一言でコメントに加わっています。
マスク氏は、リポジトリ全体のアップロードを防ぐコード変更以前にアップロードされたユーザーデータをすべて削除すると約束しました。
「予防措置として、現時点より前にSpaceXAIへアップロードされたユーザーデータはすべて完全かつ徹底的に削除します」とマスク氏はミリッチ氏への返信の中で述べています。「何であれ、一切合切残らないようにします」
一方でマスク氏は別の投稿で、自社がユーザーリポジトリを丸ごと収集していたことが発覚したにもかかわらず、「一部の」データを保持することはデバッグに役立つとして、ユーザーに引き続きデータ共有を続けるよう求めています。
The Registerは、SpaceXAIが約束通りデータを削除したかどうかを独自に検証することはできません。
ただし、Grok Buildがユーザーのリポジトリを丸ごと抜き取ってクラウドに保存する動作はすでに停止しています。とはいえCereblabは、ユーザーコードの公開範囲をデータ保持の観点から調整する手段として/privacyコマンドの利用を推奨する同社の姿勢に、依然として不満を示しています。
「実際にアップロードを止めたのは、オプトインかオプトアウトかにかかわらず適用される、サイレントなグローバルフラグ――disable_codebase_upload: true――でした」と彼らは記しています。
「/privacyはセッション単位のデータ保持切り替えに過ぎず、今回の問題を解決した制御機構ではありません。これを解決策として挙げるべきではないのです。そして、自分自身のコードを他人のサーバーから遠ざけるために、開発者がセッションのたびにオプトアウトを実行しなければならないというのはおかしな話です。あるべきデフォルトは『オフ』であるべきです」®
