Anthropic、新たなClaude防御策でAI推論の抽出を最大99%削減したと発表
Anthropicは、最新の防御策によって、競合他社がClaudeの推論能力を抽出することが大幅に難しくなったと発表しました。同社によると、新たな保護策により、不正な抽出が疑われる主体によって収集された推論トークンの量が90%〜99%減少しました。この対策は、高度なAIシステムの出力を使って競合モデルを訓練する
Anthropicは、最新の防御策によって、競合他社がClaudeの推論能力を抽出することが大幅に難しくなったと発表しました。同社によると、新たな保護策により、不正な抽出が疑われる主体によって収集された推論トークンの量が90%〜99%減少しました。この対策は、高度なAIシステムの出力を使って競合モデルを訓練する
AIアプリケーションは、1件のリクエストが消費できる計算資源やその他のリソースの量に対して有効な制御機構を欠いている場合、想定外のコストが積み上がってしまうことがあります。この大規模言語モデル（LLM）の脆弱性は「unbounded consumption（無制限消費）」と呼ばれ、暴走的な処理、サービス障害、モデル窃取