AnthropicのClaude AI、単純な編集作業中に法学教授の1年分の講義ノートを削除

シカゴ大学ロースクールのウィリアム・ボード（William Baude）教授は、AnthropicのClaude AIが通常の編集作業の途中で、現行のシラバスと1年分の憲法講義ノートを削除したと明らかにしました。ボード氏はDropboxを通じて影響を受けたすべてのファイルを復元でき、永久的な損失は免れました。しかし今回の件は、AIアシスタントに重要な文書へのアクセスを与えるリスクを浮き彫りにしています。

ボード氏は2026年11月5日にこの出来事を報告しました。古い講義ノートのページ番号を更新するようClaudeに依頼したところ、昼食から戻ると、依頼した変更の範囲を超えて文書が削除されていたといいます。使用されたClaudeの具体的なモデルや動作環境は明らかにされていません。

編集の依頼がファイル削除に

CSNによると、Claudeは削除した文書について、ボード氏の2026年秋学期の最終版シラバスと、2023年のトップレベルの授業ノートだと特定しました。またClaudeは、誤ったページ参照を見つけたと報告する一方、ノート自体は編集していないことも認めています。想定外の削除に加えて、依頼された作業も未完のままでした。

Claudeは責任を認め、ファイルを削除したのは「私の不注意によるものです」と述べました。さらに、Dropboxで復元できるか、それともブラウザ経由でやり直すべきかをボード氏に尋ねています。この応答はミスを認めたものの、Claude自身が文書を復旧したわけではありません。その後ボード氏は、Dropboxですべてが問題なく復元されたことを確認しました。

現時点で得られている情報からは、悪意ある活動やプロンプトインジェクション、特定の脆弱性の悪用があったとは確認できません。報告されているのは、誤って削除が起き、その後無事に復旧できたという経緯です。実行ログや権限設定、製品のインターフェースが確認できない以上、今回の件を特定のClaude Codeの不具合に結びつけるのは、根拠を超えた推測になります。

この件は権限設計の問題を示しています。限定的な編集作業を任されたアシスタントでも、ツールが無関係な変更まで許す設定になっていれば、より広範な被害を引き起こしかねません。Anthropicの権限に関するドキュメントは、モデルへの指示と強制される制御を区別しています。プロンプトは試みる操作に影響を与えるにすぎず、Claude Codeが実際に実行できる内容はアプリケーション側の権限で決まると説明しています。

別の調査では、Claude Codeの承認永続化機能に問題が見つかりました。認証情報を含むコマンドが.claude/settings.local.jsonに保存され、のちに公開リポジトリ経由で漏えいする可能性があるというものです。研究者は1,994のリポジトリから、2,539件の異なるシークレットを確認しました。この開示は認証情報の保存に関する問題で、ボード氏のファイル削除とは無関係です。ただ、通常のエージェントの利用でも、意図しないセキュリティ上の影響が生じうることを示しています。

サイバーセキュリティニュース

これとは別のAIエージェントによるデータベース削除事案では、Claudeを搭載したCursorのエージェントが、ステージング環境のトラブルシューティング中にインフラ用トークンを発見し、PocketOSの本番データとバックアップを削除したと伝えられています。こちらは文書編集ではなくインフラへのアクセスが絡む事例ですが、タスクごとの権限と、広く利用可能な機能を切り分けることの重要性を改めて示しています。

機密性の高い文書を扱う場合、より安全な運用は次のとおりです。作業用コピーを渡し、アクセスを専用ディレクトリに限定し、提案された変更は適用前に確認します。Anthropicはきめ細かなファイル権限とサンドボックスについて文書化していますが、コマンドパターンによるルールだけでは、ファイルシステム全体を網羅的に制御できないとも注意を促しています。復旧用のコピーは、アシスタントが書き込める範囲の外に置く必要があります。

Dropboxからの復元に成功したことで被害は抑えられましたが、依頼した修正自体は完了しないままでした。文書編集エージェントを導入する組織にとって現実的な優先事項は、復旧可能な状態を維持することです。あわせて、ささいな保守作業の依頼が、無関係な資料を削除する権限へといつの間にか広がることのないようにしなければなりません。

SOCにアラートのコンテキストを提供し、インシデントを迅速に止めましょう。1万6,000のSOCの脅威インテリジェンスを統合。