新ソリューションは検出データをベンダー側のシステムではなく、顧客が管理するクラウド環境に保存します。
Anthropicは、機密データの管理権限を手放すことなく企業がAIの悪用を監視できるようにする新たなフレームワークを導入します。セキュリティの可視性と厳格なコンプライアンス要件の両立に苦慮する組織を支援するのが狙いです。
同社は、Enterprise Frontier Safeguards(EFS)と呼ばれる新ソリューションを発表しました。ブログ投稿では「ゼロデータ保持(ZDR)のプライバシー性と、悪用検出における最先端の安全対策を組み合わせたもの」と説明しています。
このアプローチでは、監視に使用するアクティビティデータは「Anthropicではなく顧客が管理する」クラウドインフラに保存されると同社は付け加えています。
この機能はこの秋以降段階的に展開され、対象となる顧客に提供される予定です。
移行期間の橋渡しとして、EFSが展開されるまでの間、Fable 5および新たに発表されたFable 5.1モデルについてはゼロデータ保持を顧客に提供するとAnthropicは述べています。
ブログ投稿はさらに「EFSはClaude Code、Claude Enterprise、Claude Platform、Amazon Bedrock、AWS上のClaude Platform、GoogleのAgent Platform、Microsoft Foundryでサポートされる予定です」と付け加えています。
これは、OpenAIがデータ保持を制限しつつ悪用を検出する同様の手法を導入してから数日後の発表となりました。
同社によれば、EFSは監視データの保存・レビュー方法を企業側がコントロールできるようにしながらも、Anthropic側で悪用パターンを検出できるように設計されています。
「EFSでは、データのレビュー方法を顧客がコントロールします」とAnthropicは述べ、自動化システムが不審な活動を検知し、そのシグナルを顧客側のチームに送信する仕組みだと付け加えました。
「EFSには自動化された安全性監視機能があり、Anthropic側の人間によるレビューは不要です」と同社は付け加えています。
Gartnerのディレクターアナリスト、Jaishiv Prakash氏は、この転換がコンプライアンス上の懸念解消に役立つ可能性があると述べています。
「この転換が重要なのは、規制の厳しい企業がフロンティアAIモデルを導入する際の障壁となってきたコンプライアンス上の壁を無力化する点にあります」とPrakash氏は述べています。「データの保管責任を一元化されたベンダー環境から移すことで、組織は機密情報に対する明確なガバナンスを維持できるようになります」
Greyhound Researchのチーフアナリスト、Sanchit Vir Gogia氏は、企業はデータの管理権限があるからといって完全な可視性が得られるとは思い込むべきではないと指摘しています。
「保管責任と可視性を混同してはいけません」とGogia氏は述べています。「Anthropicは依然として安全性フレームワークを定義し、検出器を運用しているのです」
「したがって、すべての導入企業は、誰がデータを保持しているのか、誰が鍵を保持しているのか、誰が検出器を運用しているのか、誰がアラートの意味を判断するのか、誰が対応を実施するのかを問わなければなりません」と同氏は述べています。
運用負担は企業側にシフト
Anthropicによれば、同社のシステムはセッションやアカウントをまたいで活動を分析し、「攻撃的なサイバー能力や生物兵器関連能力」の開発を試みる兆候や、「盗難・流出した認証情報」の兆候といったシグナルを検出します。アラートはレビューのため顧客側のチームに送信されます。
「このモデルの下では検出は自動化されていますが、説明責任までは自動化されていません」とGogia氏は述べ、このシステムはアラートをレビューするための社内ワークフローを生み出す一方で、件数や誤検知率は開示されないと付け加えました。
Prakash氏は、この同じ転換が運用上の要求を増大させると指摘しています。
「このモデルは、アラートのトリアージとインシデント対応という運用負担を、根本的に企業側に直接転嫁するものです」と同氏は述べています。「セキュリティおよびリスク部門のリーダーは、AI特有のランブックに積極的に投資し、自社のオペレーションセンターに十分な人員を配置する必要があります」
データ保持のトレードオフを捉え直す
Anthropicは、詐欺のような典型的な悪用形態から高度なサイバー攻撃に至るまで、「悪用を試みた実質的な証拠」を確認してきたと述べており、その中には企業顧客の「認証情報の窃取や不正利用」に関わる事例も含まれるとしています。
「効果的な検出のためには、時間軸やアカウントをまたいで相関分析できるよう、意味のある期間データを保存する必要があります」と同社はブログ投稿で述べています。
Gogia氏は、EFSはこの要件を取り除くものではないと指摘しています。
「Enterprise Frontier Safeguardsは、保持されるエビデンスの必要性をなくすのではなく、その置き場所を移すだけです」と同氏は述べ、このモデルを「プロバイダー側のゼロデータ保持と、顧客側が管理する保持の組み合わせ」と表現しています。
「2つのフロンティアラボがわずか2週間のうちに同一のアーキテクチャに収斂したことで、この設計は差別化要因というより一つのパターンになったと言えます」とGogia氏は述べています。
既存のエンタープライズ管理体制との親和性
Anthropicによれば、EFSにより顧客は、Amazon S3、Azure Blob Storage、Google Cloud Storageなど自社のクラウド環境に、独自の暗号鍵とアクセス制御を用いてアクティビティデータを保存できるようになります。
「顧客は、自社が管理するインフラ上にデータを置ける能力を求めています」と同社は述べています。同社はさらに、これらの機能はオプションであり、モデルの挙動や価格を変更するものではないと付け加えています。
Prakash氏は、既存のエンタープライズツールも依然として役割を果たすと述べています。
「既存のセキュリティアーキテクチャはある程度の監視機能を提供しますが、プロンプト、セッション、アカウントをまたいだ悪用パターンを検出するために必要な、モデル特有の可視性については概して不足しています」と同氏は述べています。
Gogia氏によれば、大半の企業はすでにゲートウェイ、データ損失防止(DLP)ツール、SIEMプラットフォームを利用しており、EFSは「コントロールプレーンというよりも、プロバイダーネイティブなセンサー」だと表現しています。
生まれつつあるパターン、まだ標準ではない
Anthropicは、100を超える様々な業界の組織から意見を得てEFSを開発したと述べています。
Gogia氏は、このアプローチはより広く採用される可能性があるものの、まだ時期尚早だと述べています。
「EFSが、機密性の高いエンタープライズAIにおける調達基準やリファレンスアーキテクチャとなる可能性は十分にあります」と同氏は述べています。「しかし、それを標準と呼ぶのはまだあまりに時期尚早です」
Prakash氏は、顧客側で管理する監視の仕組みは「規制対象企業にとって一つの選択肢となり得る」としつつも、プライベート環境への導入に取って代わるものではないと付け加えています。
「規制対象の導入企業は、『安全』といった形容詞をそのまま受け入れる前に、検証可能な成果物を要求すべきです」とGogia氏は述べ、その具体例として「公開されたデータフローモデル、検出器の適合率・再現率、バージョン来歴を伴う改ざん不能なエビデンス」を挙げています。なお、AnthropicはEFS自体の利用料は課さない方針ですが、顧客は標準的なクラウドインフラの費用を負担することになるとしています。
