Anthropicが金曜日にテスト開始を発表したとき、セキュリティベンダーと市場が注目した。しかし、このパニックは正当化されるか？
Anthropicが金曜日にClaude Code Securityの「限定リサーチプレビュー」を開始したとき、ウォール街の投資家は大手サイバーセキュリティベンダーの株価を急落させた。
しかし、Anthropicのロールアウトはそのような反応を正当化したか？
結局のところ、CrowdStrike、Zscaler、Palo Alto Networks、Oktaを含むこれらの企業は独自のエージェント機能を準備しており、たとえそうでなくても、Anthropicが約束するコード検査機能は当初、彼らの機能の代替ではない。
「コードセキュリティはサイバーセキュリティプログラムと全体的なテックスタックの重要な部分ですが、唯一のものからは程遠いです」とコンサルティング企業Acceligenceの最高経営責任者Justin Greisは指摘しました。「コードセキュリティを改善し、セキュアなソフトウェア開発ライフサイクル（SDLC）と製品開発ライフサイクル（PDLC）を強化することで、組織のセキュリティ態勢が強化されることは間違いありませんが、EDR/MDR、IAM、脅威インテリジェンス、データ保護などのツールとサービスが不要になることはありません。」
彼は付け加えて、「しかし、これはAI企業がユースケースを継続的に拡大し、より多くのデータとコードを分析し、セキュリティ組織に実際の洞察と行動をもたらすという明確なシグナルです。彼らのイノベーションのペースは驚異的で前例がありません。」と述べました。
人間をループに保つ
しかし、Greisはエグゼクティブに警告を提供しました：「コード検査ツール（AI関連であろうとなかろうと）に盲目的に依存してセキュアコーディングと良好なセキュリティ慣行の基本を置き換えている人のために、これはあなたが開発しているプロダクトやサービスの価値提案を保護する専門知識を外注しないための赤いまばたきです。私たちは有資格の人間をループに保ち、AIを専門知識の置き換えではなく、アクセラレータとして使用することを確認する必要があります」と彼は述べました。
Anthropicの発表では、「Webに組み込まれた新しい機能であるClaude Code Security」が「セキュリティ脆弱性についてコードベースをスキャンし、人間がレビューするためにターゲットされたソフトウェアパッチを提案し、チームが従来の方法がしばしば見逃すセキュリティ問題を見つけて修正することを可能にします」と述べられています。
ロールアウトは、少なくとも初期段階では限定的であるとAnthropicは述べています。「私たちはエンタープライズとチームの顧客に限定リサーチプレビューとしてリリースしており、オープンソースリポジトリのメンテナーには迅速なアクセスを提供しています。」
同社はインタビューのリクエストに応じませんでした。
コード検査機能がセキュリティ機能を増強するのではなく引き継ぐことへの懸念を予測して、Anthropicは人間をループに保ちたいと強調しました。
「既知のパターンをスキャンするのではなく、Claude Code Securityはセキュリティ研究者が行うように、つまりコンポーネント間の相互作用を理解し、データがアプリケーション全体をどのように移動するかを追跡し、ルールベースのツールが見逃す複雑な脆弱性をキャッチすることで、コードを読んで推論します」と発表されています。「すべての検査結果は、アナリストに到達する前に多段階の検証プロセスを通ります。Claudeは各結果を再検査し、自分の発見を証明または反証し、誤検知をフィルタリングしようとします。」
それは、検証された検査結果がClaude Code Securityダッシュボードに表示されることに注意し、チームはそれらをレビューし、提案されたパッチを検査し、修正を承認できます。しかし、それは述べました、「これらの問題はソースコード単独では評価するのが難しいニュアンスを伴うことが多いため、Claudeはまた、各検査結果に対する信頼度評価を提供します。何も人間の承認なしに適用されません：Claude Code Securityは問題を識別し、ソリューションを提案しますが、開発者は常に決定を下します。」
セキュリティ態勢をモデルに固定する
しかし、それらの保証は懸念をすべて消しはしませんでした。
「バイブコーダーがそれらのモデルをCIパイプラインにプラグインした瞬間、彼らの全体的なセキュリティ態勢は会社のコードにのみ固定されなくなります」とI-Gentic AI CEO Zahra Timsahは指摘しました。
「それはそのモデルの現在の行動に固定されます。Anthropicはウェイトを更新し、推論ヒューリスティクスを調整し、安全層を改良したり、セマンティックパターンの解釈方法を変更できます。それのどれもあなたの承認が必要ではありません。それのどれもあなたの内部変更管理をトリガーしません。あなたのパイプラインは緑のままです。あなたのダッシュボードは安定したままです。しかし、脆弱性がカウントされるものを定義するエンジンは変わりました」と彼女は述べました。
「Anthropicは完全に管理下にあります。これは、今日の安全なコードベースが、1行のコードに触れることなく明日、別の脆弱性の境界の下で評価される可能性があることを意味します。これはあなたが管理していない上流の確率的システムに、セキュリティ定義の一部を外注しています。」
アウトソーシング依存は新しいものではない
しかし、他の人々は、セキュリティアウトソーシングが数年間徐々に起こってきたと提案しており、クラウド運用とSaaSから始まり、その後エンタープライズサイバー運用の増加した管理を引き継いだサイバーセキュリティ企業に移り、最終的にgenAIとエージェント的ベンダーへ移ったとしています。
Flavio Villanustre、LexisNexis Risk Solutions Groupのエグゼクティブは、Anthropicが人間がプロセスを監督することに対して、少なくともリップサービスを与えているという事実を拍手しましたが、彼は、「これは、人々が場合によってはコーナーをカットしないことを意味しません、そしてまた非決定的な行動を持つ別のLLMを、LLMによるコード生成の既存の非決定的な行動の問題に追加します。」と述べました。
エージェント的および生成的AI システムの常に存在する懸念は、他の信頼性の課題に加えて、幻覚を起こす傾向です。しかし、複数のサイバーセキュリティの専門家は、大規模なセキュリティシステムは常に誤検知と誤検知の公平な数を持つため、これは新しいものではないと述べました。
サイバーセキュリティコンサルタントBrian Levine、FormerGovのエグゼクティブディレクターは、Anthropicの発表に対するウォール街の反応は投資家が「AI-ネイティブセキュリティがスタックの一部を圧縮したり、さらには並べ替えたりすることもできるという考えの周りで再調整されている」可能性があることを示唆していると述べました。それが正当化されているか、それが単に破壊の反射的な恐れであるかどうかに関わらず、人々が現在、ファウンデーションモデルが従来の検出および分析エンジンと有意に競争したり、より有用である可能性があると信じていることを示唆しています。」
異なるカテゴリーの分析
Anthropicが配信を継続できれば、さらに根本的なシフトを意味する可能性があることに彼は注意しました。
「モデルが広大なコードベース全体で推論でき、静的ツールが見逃すパターンを関連付けることができ、継続的に行うことができれば、それは段階的な改善ではなく、それは分析の完全に異なるカテゴリーかもしれません。それは脆弱性発見がシグネチャライブラリについてではなく、より適応的な解釈についてであるより少ないワールドを示唆しています」とLevin は述べました。
しかし、Timsahと同様に、彼はモデルの変化が組織のセキュリティ態勢に影響を与えることについて懸念しています。「それはトレードオフです」と彼は述べました。「前例のない分析能力と、セキュリティリーダーが明確な頭で評価する必要がある新しい種類の依存が対になっています。」
信頼の単一ポイントと失敗の単一ポイント
Joshua Woodruff、MassiveScale.AIのCEOは、Anthropicの動きは問題があると感じましたが、それが他のセキュリティ企業に何をするかのためではなく、主にサイバー攻撃者への利益を懸念しています。
「Anthropicのモデルがオープンソースプロジェクトで500以上の未知の高深刻度の脆弱性を発見した場合、それはすべての攻撃者が同じモデルを実行して、今すぐそれらの同じ脆弱性を見つけることができることを意味します。ただし、誰も報告していません。彼らはそれらを悪用しています」とWoodruffe は述べました。「脆弱性発見はちょうど非対称になりました。ディフェンダーはヒューマンレビューのためにパッチを提案するツールを取得します。攻撃者は、レビュー段階なしにマシンスピードでゼロデイを見つけるツールを取得します。」
彼は別の問題があると付け加えました：「AIエージェントがバグを見つけて修正を提案した場合、誰がパッチをチェックしていますか？ あなたはオーディターと修理乗務員の両方であるために、同じモデルを信頼しています。セキュリティチームは、脆弱性を見つけて独立したレビューなしにフィックスを書くために、同じ人に許可することはありません。しかし、ヒューマンレビューをゴムスタンプとして扱う場合、それはまさに起こることです。修正は新しい攻撃面になります。」
Ravid Circus、Seemplicitnyのエグゼクティブは、AIが穴を見つけて修正することの両方についても、Woodruffeと同じ懸念に同意しました。
「同じAIがコードを書き、脆弱性を見つけ、修正を提案する場合、あなたは信頼の単一ポイントと失敗の単一ポイントを作成しました。それを侵害して、あなたはバグを導入するだけでなく、潜在的にスケールでバックドアを製造します」とCircus は述べました。「私は、『私たちはClaude Securityを使用しています』が、SOC 2バッジやZero Trustブランディングのような新しいチェックボックスになるのを見るのを心配しています。本当の質問はどのAIを使用するかではありません。それはあなたの組織が検証し、それが言ったものを管理する運用成熟度を持っているかどうかです。『Claude は私たちが安全です』はセキュリティ態勢になることはできません。」
確かに、Anthropicは最近、サイバーセキュリティで独自の問題を抱えてきましたが、コード検査の機能は誰も同意しませんでした。問題は、それが最終的に既存のパートナーよりも優れた価格設定、スケーラビリティ、および信頼性を提供し、どのくらい早くこれが起こる可能性があるかです。
実際、別のサイバーエグゼクティブ、Gadi Evton、Knosticの最高経営責任者は、イノベーションの速度は業界のほとんどが見たこともかそれに近い速度よりもはるかに速く動いているため、一部の組織はAIオファリングを評価するのに十分な頻度がない可能性があると主張しています。
「それは非常に速く動いています。2ヶ月前に[Anthropicのオファリング]を試した人は、今それがどの程度うまく機能しているのか理解していません」とEvtonは述べました。
そして、Rock Lambros、Zenityのセキュリティ担当者は、「genAIが非決定的なままである限り、生成時に安全であることは常に隙間があり、同じ出力を2回保証できないものについて、常に生成後の検証が必要になります。本当の問題は、既にデプロイされている自律システムを管理するスタッフ、資金提供、またはスコープさえも誰も持っていないということです。」と述べました。
