テック大手とトップセキュリティベンダーを含むクローズドコンソーシアムが、Anthropicが大規模でソフトウェア脆弱性を自律的に発見できるとされるモデルへのアーリーアクセスを取得します。サイバーセキュリティの未来への影響は大きい可能性があります。
AI大手のAnthropicはProject Glasswingを発表しました。これはClaude Mythos Previewを中心に構築されたサイバーセキュリティイニシアチブであり、「AIの時代のサイバーセキュリティ」と説明され、大規模でソフトウェア脆弱性を自律的に識別できます。
Anthropicはこのモデルを公開リリースするのではなく、Amazon、Microsoft、Apple、Alphabetが所有するGoogle、Linux Foundationを含む40社以上の閉鎖的なコンソーシアムへのアクセスを制限しており、CrowdStrike、Palo Alto Networks、Ciscoなどのセキュリティベンダーの小規模なグループも含まれています。
「Mythosは最初のドミノをより明確にします。フロンティアAIが大規模なバグハンティングを行うことができれば、定期的な発見に人間に支払う論理は崩れ始めます」とOWASPの創設者でContrast SecurityのCTOであるJeff Williamsは述べています。
Anthropicによると、目標はこれらの機能を制御された防御的な環境で適用し、参加組織が広く使用されているソフトウェアおよびインフラストラクチャのセキュリティをテストおよび改善できるようにすることです。
バグハンティングの経済学の変化
早期テストによると、Anthropicはモデルがオペレーティングシステム、ブラウザ、および他の広く使用されているソフトウェア全体で数千の高深刻度の脆弱性を識別したと主張しています。広範な事前レビューにもかかわらず存続していたものもあります。これには、OpenBSDの27年前の欠陥が含まれており、これは最もセキュリティが強化されているオペレーティングシステムの1つとして長く考えられており、重要なインフラストラクチャで広く使用されています。
多くの初期AI能力の主張と同様に、結果は主に自己報告であり、外部的に部分的にのみ検証可能ですが、明確な方向を指しています。脆弱性発見はより自動化され、スケーラブルになっています。
その変化はセキュリティ作業がどのように組織され、評価されるかについての質問を引き起こします。
OWASPのWilliamsにとって、混乱は経済から始まります。AIシステムが大規模な脆弱性発見を実行できる場合、人間主導のバグハンティングに依存する論理、特に定期的な発見のためのものは低下します。
しかし、含意はバグバウンティプログラムを超えています。「これはバグバウンティを脅かすだけではありません」と彼は言います。「それはセキュリティが事後的なアフターシャウトのままでいることができるという全体的な考え方を脅かします。セキュリティバックログの時代は歓迎される終焉を迎えています。」
バックログ管理から露出ウィンドウリスクへ
Williamsが枠組みとして述べているように、問題は単に存在する脆弱性の数ではなく、それらがどのように管理されるかです。「Mythosは1つのことを痛いほど明確にします」と彼は言います。「これは優先順位付けの問題ではありません。これは露出ウィンドウの問題です。」
従来の脆弱性管理は優先順位付けの周りに構築されてきました。重大度、悪用可能性、ビジネス上の影響によって問題をランク付けし、時間をかけて修復作業を進めます。
Williamsは、制限要因はもはや組織がどれだけ優先順位を付けるかではなく、脆弱性が露出したままになっている期間の長さであると主張しています。
AIを活用したサイバー防御への適応
Ciscoの上級副社長兼チーフセキュリティおよび信頼責任者であるAnthony Griecoは、より広い運用上の文脈の中で開発を位置付けます。ブログ投稿で、Griecoは組織は「AIを活用したサイバー防御の時代に立ち上がる」必要があると主張し、脅威の風景と対応するために必要な機能の両方における転換を反映しています。
Ciscoはこのプロジェクトに参加している組織の1つであり、Anthropicが防御的なセキュリティのユースケースに高度なAI機能を適用する共同の取り組みと説明しているものに参加しています。Griecoはセキュリティプログラムが急速に進むAI機能に応じて進化する必要があると強調しています。
「AI機能は引き続き進化し、脅威表面は進化し、インターネットを保護する組織は機械の速度とネットワークのスケールで動作する必要があります」とGriecoは言います。「私たちが今経験していることの多くは、数年前には想像できなかったでしょう。ゴールラインはありません。敵対者より先を行うために可能なすべてをすることへのコミットメントがあるだけです。」
セキュリティリーダーにとって、その組み合わせ—より拡張可能な発見とより高速で動作する必要性—リスクがどのように処理されるかについての長年の仮定に異議を唱えます。バックログは、避けられない運用上の現実として長く扱われていましたが、脆弱性をより迅速かつ包括的に識別できる場合、正当化するのはより困難になります。
上流へのシフトと制御に関する未解決の質問
「未来は、安全なコードを確実に生成でき、それを証明するための保証ケースを持つソフトウェアファクトリーに属します」とWilliamsは述べており、セキュリティが主に展開後に対処されるのではなく、開発プロセスに組み込まれるモデルを指しています。
Griecoの強調がAIを活用した脅威への適応に合致しており、組織がセキュリティ関連の条件がどれだけ迅速に変わることができるかについての彼らのツールと仮定の両方を進化させる必要性を強調しています。
同時に、これらの機能がどの程度広く広がるかについては、まだ質問があります。Anthropicはこれらのシステムがソフトウェア脆弱性を大規模で識別できることを示唆する二重用途の性質を反映して、Mythos Previewへのアクセスを制限することを選択しました。ただし、その悪用を加速させることもできました。
「Anthropicがこのモデルの悪意のある使用を制限できるということは非常に疑わしいです」とWilliamsは言います。
Anthropicはプロジェクトにモデル使用クレジットで1億ドルをコミットしており、参加者は研究プレビュー中に追加の使用をコントリビュートすることが期待されています。Claude Mythos PreviewはClaude API、Amazon Bedrock、Google Cloud Vertex AI、およびMicrosoft Foundryを通じて利用可能になります。
同社はまた、Alpha-Omega、OpenSSF、Apache Software Foundationへの寄付を含むオープンソースセキュリティ活動への資金提供を誓約しており、これらの変化に対応するメンテナーをサポートしています。アクセスに関心のあるメンテナーはClaude for Open Sourceプログラムを通じて申請できます。
