Anthropicは、最新の防御策によって、競合他社がClaudeの推論能力を抽出することが大幅に難しくなったと発表しました。
同社によると、新たな保護策により、不正な抽出が疑われる主体によって収集された推論トークンの量が90%〜99%減少しました。この対策は、高度なAIシステムの出力を使って競合モデルを訓練する「モデル蒸留攻撃」を標的としています。
同社は、不正な主体が「秘密裏に行われる産業規模のキャンペーン」を繰り返し展開し、Claudeモデルから高度な問題解決の痕跡を吸い上げて、より安価な模倣モデルの訓練に利用していると説明しています。標的を絞った保護策を導入した結果、抽出が疑われる主体が収集した内部推論トークンの数は、従来の10分の1から100分の1にまで減少したとしています。
こうした防御強化の背景には、米国と海外のAIチームとの間で技術競争が激化している状況があります。AnthropicはOpenAIやGoogle親会社のAlphabetなどの同業他社とともに、不正な蒸留によって海外の事業者が莫大な研究開発費を回避できるうえ、重要な安全対策も取り除かれてしまうと警告しています。
Claudeの「内なる独白」を守る
蒸留攻撃は、最終的な回答を集めるだけでなく、モデルの段階的な思考の痕跡を捉えることに大きく依存しています。Anthropicによると、Claude Opus 4.8の完全な推論記録で訓練したモデルは、コーディングベンチマークのSWE-bench Verifiedで80.4%を記録しました。要約した記録で訓練した場合は71.8%でした。
こうした流出を止めるため、同社は3つの防御策を導入しました。
- 思考保持（preserved thinking）の保護: 2026年8月31日以降に作成された新規APIアカウントについて、過去のコンテキストウィンドウの変更を制限します。これにより、プロキシネットワークがモデル間や会話間で内部推論の痕跡を受け渡すことを防ぎます。
- 2段階の分類器: 誤検知率0.1%未満のスクリーニング構成を採用しています。Anthropicは、これが「Claudeによる生物兵器開発の支援を防ぐ仕組みとほぼ同等の堅牢性を持つ」としています。
- アカウントの停止と課金措置: 不審な実行から2時間以内に違反アカウントを自動的に停止することも多く、ブロックした抽出リクエストについては顧客に課金します。
Anthropicは、中国のAI開発企業Zhipu（Z.aiとも呼ばれる）が、GLM-5.3システムの開発中にClaudeを標的にした企業の一つだと主張しています。また、Moonshotの Kimiモデルに送信されたリクエストが秘密裏にClaudeへ転送されていた事例も報告しており、その中には中国軍関係者に関連する監視目的の問い合わせも含まれていたといいます。
AIモデルの蒸留が問題となる理由
AI開発企業にとって、不正な蒸留は商業面とセキュリティ面の両方で課題となります。
最先端のAIモデルを訓練するには、計算インフラ、研究、開発に多額の投資が必要です。既存モデルから詳細な出力を抽出すれば、別の開発者が同じ投資をすることなく、その能力の一部を再現できる可能性があります。
Anthropicはまた、競合システムが元のモデルに組み込まれた保護機能を維持しないまま有用な能力だけを再現した場合、不正な蒸留が安全対策を損なう恐れがあると主張しています。
同社の最新の防御策は、商用APIを通じたアクセスを提供し続けながら、組織的な抽出からモデルを守ろうとするAI開発企業全体の広範な取り組みを反映しています。
Claude APIユーザーが知っておくべきこと
Anthropicの新たな保護策は、主にClaudeの推論能力を大規模に抽出しようとする疑わしい試みを標的としています。ただし、高度なAPI機能を利用している開発者は、今回の変更が自社のアプリケーションに影響するかどうかを確認する必要があります。
思考保持機能に依存している、あるいはモデルが生成した推論をリクエスト間で再利用しているチームは、Anthropicの最新のAPIドキュメントで該当する制限がないか確認してください。
各組織は、APIの認証情報の管理方法、異常なリクエストパターンの監視、アカウントに対する措置の通知への対応についても見直すべきです。
正当な顧客にとっての重要な問いは、Anthropicが認可されたアプリケーションを妨げることなく、大規模な抽出を防げるかどうかです。同社は抽出が疑われる活動が大幅に減少したと報告していますが、その数字だけでは、今回の保護策が一般的なAPIユーザーにどう影響するかは分かりません。
関連ニュース: デンマークの住民登録システムで大規模な情報漏えいが発生し、脆弱なパスワードやサードパーティによるアクセスへの懸念が高まっています。報道では、攻撃者がAI生成コードを使って数百万件の検索を自動化した可能性が指摘されています。
翻訳元: https://www.esecurityplanet.com/threats/news-anthropic-claude-ai-distillation-defenses/
