シカゴ大学ロースクールのウィリアム・ボード（William Baude）教授は、AnthropicのClaude AIに定型的な編集作業を任せたところ、現行のシラバスと1年分の憲法講義ノートが削除されたと明らかにしました。
ボード氏は2026年11月5日にこの出来事を公表しました。古いノートのページ番号の更新を依頼したところ、昼食から戻ると教材が消えていたといいます。
ボード氏はその後、Dropboxからすべてのファイルを復元し、データの完全な消失は免れました。使用されたClaudeの具体的なモデルや実行環境は明らかになっていません。
CSNによると、Claudeは削除した文書について、2026年秋学期の最終版シラバスと、2023年の最上位階層にあるクラスノートだと説明しました。また、ページ参照に誤りがあることも報告しましたが、ノート自体は編集しておらず、元の依頼は未完了のままだったことも認めています。
Claudeは「私自身の不注意により」ファイルを削除したと責任を認めました。そのうえで、Dropboxから復元できるか、それともブラウザ経由でやり直すべきかをボード氏に尋ねています。
現時点で得られている情報からは、悪意ある活動やソフトウェアの脆弱性の悪用、あるいは間接的プロンプトインジェクションがあったとは確認できません。
この区別は重要です。Claudeのブラウザ機能をめぐっては別の研究があり、攻撃者が仕込んだメール内の指示によって、認証済みセッション内でJavaScriptが実行される事例が報告されています。一方、ボード氏の公表内容は、正当な権限のもとで行った作業中に起きた偶発的な破壊を述べるものです。
実行ログや権限設定、再現可能な手順がない以上、削除の原因を特定のセキュリティ機構に結びつけるのは、証拠の範囲を超えることになります。
今回の件は、権限の付与とAIアシスタントによるユーザー意図の解釈を切り離しておくべき理由を示しています。マシンをまたぐリモートコード実行に関する関連研究では、悪意ある拡張機能が、信頼されたClaudeの通信経路を通じてコマンドを送り込む手口が説明されています。
これらの研究結果はボード氏の事例を説明するものではありません。ただ、アシスタントが本来のタスクを超えてツールを制御できるようになると、特権的な実行経路によって意図しない操作や不正な操作の影響が拡大しかねないことを示しています。
技術的な事例としては、DNS TXTレコードを使ったペイロード配信もあります。研究者は、Claude Codeが誤解を招くセットアップ手順に従い、リバースシェルを実行してしまう様子を説明しました。ボード氏の偶発的な削除とは異なり、こちらは敵対的な操作が絡むシナリオです。
それでも両者に共通するのは、対話上の指示とは別に、実行可能な操作を制限することの重要性です。特に、エージェントがローカルファイルにアクセスしたり、サブプロセスを起動したり、動作環境から認証情報を引き継いだりできる場合には欠かせません。
文書を扱うワークフローでは、隔離した作業用コピーの利用、ファイルシステムへのアクセス範囲の厳格な限定、変更内容を確認できる仕組み、エージェントが書き込めない領域に置く復元可能なバックアップといった対策が求められます。
AnthropicのClaude Codeのドキュメントは、モデルへの指示と強制される権限を区別しています。また、コマンドパターンのルールだけでは完全なセキュリティ境界にならないと注意を促しています。サブプロセスを含めて、より強力に制限を適用できるのはOSレベルのサンドボックスです。
ボード氏がDropboxで無事に復元できたことは、独立した復旧手段の実用的な価値を物語っています。Claudeは自らのミスを認めて経緯を説明しましたが、失われた資料を取り戻したのは別のサービスでした。重要な記録への書き込み権限をエージェントに与える前に、アクセス制御とあわせて復旧計画も整えておく必要があります。
16,000以上のSOCチームがANY.RUNを活用し、脅威調査の効率化と手作業の削減を実現しています。チームでの導入を検討する
翻訳元: https://cyberpress.org/claude-ai-deletes-lecture-notes-syllabus/
