AI AND ML
手放して立ち去り、あとは分類器が不可逆・破壊的な操作を捕まえてくれることに期待する
Anthropicは8月14日から、Claude CodeでAuto Modeをデフォルトにすると発表しました。同社は、自社の分類器が「プロンプトを次々にクリックしていく平均的なユーザーと同等か、それ以上に安全」だと主張しています。
すでに別のデフォルト設定を選んでいるユーザーには、切り替えるかどうかを尋ねる一回限りのプロンプトが表示される場合があります。この変更はPro、Max、Teamプランの新規セッションに適用されます。Claude Enterprise、Claude API、AWS上のClaude Platform、Amazon Bedrock、Google CloudのAgent Platform、Microsoft Foundryについては、当面はオプトイン方式のままです。Anthropicは今後1カ月以内に、これらのサービスでもデフォルト化する計画です。
Anthropicはまた、Pro、Max、Teamのユーザーに対して、分類器が消費する追加トークン分の課金を停止しました。他のプラットフォームでも同様の対応を予定しています。
Auto Modeは3月にリサーチプレビューとして公開され、7月10日に一般提供が始まりました。これはClaude Codeの従来のデフォルトの権限管理――ファイルの書き込みやbashコマンドの実行のたびに手動承認が必要な仕組み――に代わる選択肢です。この慎重なアプローチでは、大きなタスクを走らせてその場を離れることができませんでした。もう一つの代替手段が–dangerously-skip-permissionsフラグで、名前が示す通りこれらのチェックなしにClaudeを動かせるため、リスクの高い、あるいは破壊的な結果を招きかねないものでした。
Auto Modeでは、それぞれのツール呼び出しが分類器を通過する仕組みになっており、この分類器は「不可逆的、破壊的、あるいは環境の外部を対象とする」操作をブロックするよう設計されています。分類器が何かをブロックすると、Claudeはより安全な進め方を探そうとします。ブロックが3回連続、あるいはセッション全体で20回に達すると、Claude Codeは手動承認方式に戻ります。
Anthropicは次のように述べています。「私たちはここ数カ月をかけて、Auto Modeが、プロンプトを次々にクリックしていく平均的なユーザーと同等かそれ以上に安全かどうかを検証してきました。社内でのレッドチーム演習、第三者によるレッドチーム演習とプロンプトインジェクションの評価、有償テスター1,053人による対照実験、そして実際の本番セッションの分析を実施しました。検証したすべての指標において、Auto Modeは手動レビューと同等か、それを上回る結果を示しました」
この対照実験では、テスターが意図的に紛れ込ませた危険なコマンドを検知できたのはわずか13.6パーセントでした。これに対しAuto Modeは、同じコマンドの89パーセントをブロックしました。Anthropicはさらに、Claude Codeのユーザーは権限確認プロンプトの97パーセントを承認していることも明らかにしており、この人間によるチェックポイントが、実質的には単なる惰性のクリックに過ぎない場合が多いことをうかがわせます。
Anthropicは例によって、自社の新機能が競合よりいかに優れているかを示すグラフ一式を公開しました。それによると、Auto Modeはテストされた720件の攻撃試行すべてを阻止した一方、CodexのAuto-reviewモードを実行するGPT-5.6 Solでは、攻撃の5.83パーセントが通過してしまったとのことです。
同社はまた、Anthropic社内でAuto Modeが阻止した、潜在的に被害の大きい3件の操作についても説明しています。それは、ネットワーク外へのデータ漏えい、破壊的な大量操作、そして権限昇格でした。Anthropicは「いずれのケースでも、Claudeは自ら安全な代替手段を見つけるか、実行前にユーザーに確認を取りました」と述べています。®
