これは、パッチ適用を四半期ごとの作業として扱い続けている組織が、ほんの少し前よりも実質的に大きなリスクを抱えて運営されていることを意味すると、あるアナリストは述べています。
Anthropicは、Project Glasswingに関わる50以上のパートナーと共に、ソフトウェア製品に推定10,000個の重大または高深刻度の脆弱性を発見したと述べています。
同社は、Claude Mythos Previewを中心に構築されたサイバーセキュリティイニシアティブを4月に立ち上げ、立ち上げパートナーがそれを防御的セキュリティ作業の一部として使用することを述べました。
Anthropicは、新しいフロンティアモデルの機能が「ある厳然たる事実を明かした時にProject Glasswingを作成したと述べています：AIモデルは、ソフトウェアの脆弱性を発見して悪用する際に、最も熟練した人間以外のほぼすべての人間を上回るレベルのコーディング能力に達しています。」その時点で、同社は1億ドル以上の使用クレジットと、オープンソースセキュリティ組織への追加400万ドルの寄付を約束していることも示しました。
先週末に公開されたアップデートで、Anthropicは「過去数ヶ月間、Mythos Previewを使用して1,000以上のオープンソースプロジェクトをスキャンしてきました。これらは集合的にインターネットの大部分、そして私たちの独自インフラストラクチャの大部分を支えています。」と述べました。
このプロセスの間に、Mythos Previewはこれらのプロジェクトで6,202個の高または重大度の脆弱性を発見し、そのうち1,752個は6つの独立したセキュリティ研究企業によって評価されました。
バグレポートの殺到に直面するメンテナー
Anthropicは、このうち90.6%（1,587個）が「有効な真の陽性であることが証明され、62.4%（1,094個）が高または重大度として確認されたと述べました。これは、Mythos Previewがさらに脆弱性を発見しない場合でも、現在のトリアージ後の真の陽性率では、Project Glasswingのパートナーが発見したものに加えて、オープンソースコード内でほぼ3,900個の高または重大度の脆弱性を明らかにする軌道上にあることを意味します。」
レポートの著者は、オープンソースソフトウェアの保守の通常の課題に加えて、「メンテナーは低品質のAI生成バグレポートの殺到に直面しています。実際、数人のメンテナーは現在、キャパシティーが大きく制限されていることを告げており、パッチを設計するためにより多くの時間が必要なため、開示の速度を遅くするよう求めるメンテナーもいます。」と指摘しました。
Anthropicは、これまでにメンテナーに530個の高または重大度のバグを開示したと見積もり、さらに827個を開示することを目指しています。これらの530個のバグのうち、75個はパッチが適用され、65個の公開アドバイザリーがあります。同社は、比較的少ない数は3つの要因が原因だと述べました：第1に、調整された脆弱性開示ポリシーに規定された90日間のウィンドウがまだ閉じていない、第2に、一部の欠陥が開示なしでパッチされているため、おそらく過小計上されている、最後に、セキュリティエコシステムはすでに過負荷です。
「脆弱性を発見する相対的な容易さと、それを修正する困難さを比較すると、サイバーセキュリティにとって大きな課題になります。」とレポートの著者は述べました。
それにもかかわらず、これまでのGlasswingの成功により、同社はエンタープライズ顧客向けにClaude Securityをベータ版でリリースし、正当なセキュリティプロが特定のセーフガードなしでそのモデルを自分の仕事で使用できるようにするためのサイバーベリフィケーションプログラムを開始しました。
Mark Tauschek氏、Info-Tech Research Groupの著名なアナリストは、AnthropicがProject Glasswingを通じてClaude Mythos Previewへのアクセスを制限する決定は、フロンティアAI機能がサイバーセキュリティで実質的なしきい値を超えたことを示す最も明確なシグナルの1つであると述べました。
同社は、「そのシステムカードの透明性とProject Glasswingの構造に対してある程度の信用に値します。しかし、問題について透明性を持つことは、それを解決することと同じではありません。」と彼は述べました。
Tauschekによると、「このアップデートは、ITおよびセキュリティリーダーが、ソフトウェア脆弱性を発見するコストが大幅に低下したという事実に対処しなければならないという実際の現実を検証しています。単一のAIモデルが数週間で基盤となるソフトウェア全体の何千もの深刻な脆弱性を表面化できる場合、脆弱性の発見と悪用の間のウィンドウは圧縮し続けるでしょう。」
パッチ適用を四半期ごとの作業として扱い続けている組織は、ほんの少し前よりも実質的により大きなリスクで運営されていると、彼は付け加えました。
Tauschekは、一部のメンテナーがAnthropicに速度を遅くするよう要求したという事実は、より良いセキュリティへの抵抗として見られるべきではないと述べました。「むしろ、それは何年も前から構築されてきた容量の問題を指しています。」と彼は述べました。「企業が依存するオープンソースプロジェクトの多くは、小さなチームまたはボランティア、しばしば昼間の仕事を持つ人々によって維持されています。」
主要なボトルネックが移動した
一方、彼は「そのコードに依存する組織は大規模に運営されています。AIは発見を加速できますが、調査結果を検証し、安全なパッチを設計し、テストし、展開するために必要な人間の容量を作成することはできません。これにより、多層防御の再考を強制します。」と述べました。
Kellman Meghu氏、DeepCove Cybersecurityのチーフテクノロジーオフィサーは、Project Glasswingのアップデートには何も驚くべきことがないと付け加えました。「私たちの会社は、約2年前に、有能な研究者の手で、脆弱性を発見して悪用するAIの能力が大幅に加速されていることを理解していました。」と彼は述べました。「現在の変化は、大規模言語モデルでプロンプトを駆動するための参入障壁が大幅に低下したことだと思います。これはより良くなるだけで、私たちの新しい現実です。」
DeepCoveは、「パッチ適用とコントロール評価を加速させる必要があり、これには、大規模言語モデルを活用して、当社のサービスと顧客インフラストラクチャの補償的なコントロールを識別してパッチまたは構築するのを支援することが含まれています。」と彼は述べました。
Meghuによると、「バグを発見するのは現在安価ですが、パッチを適用することは、多くの場合、まだ遅くて人間に束縛されています。クライアントは、このペースを吸収することを本当に難しくする変更管理プロセス、規制テストウィンドウ、および変更ブラックアウトを持っています。」
Anthropicのアップデートが実際に示しているのは、「サイバーセキュリティのボトルネックが脆弱性の発見からパッチの吸収と顧客の防御を高速に適応させることに移動したことです。」と彼は指摘しました。
彼の意見は、「このようなバグを修正する際のボトルネックは、それらに対してトリアージ、報告、設計、デプロイするための人間の容量です。」と述べたAnthropicと同じことを言っています。
新しいパッチケーデンスの運用上の圧力は「攻撃的な脅威と同じくらい即座です。」とMeghuは述べました。「私たちは、AI支援監査を独自の開発パイプラインに組み込むことで対応し、重要な依存関係に対するクライアントパッチSLAを厳しくしました。しかし、これは簡単に管理できるプロセスではありません。私たちはLLMまたはエージェントを盲目的に信頼して自律的に動作させることはしませんし、これはLLM統合のためのオペレータ支援プロセスの重大な変化をもたらしました。」
同様に、David Shipley氏、Beauceron SecurityのCEOは、「みんなが注目してきた見出しは、それが発見した10,000の潜在的な脆弱性であり、そして、そのうち6,000が重大ですが、実際に数字を削減すると、実際に人間によって検証された、正当な、1,500に近い数字が得られます。そして、これはかなりの落ち込みです。」と述べました。
「[Anthropicはまた、人道的に審査された1,752の高い重大度評価脆弱性の90%が正確であることが判明したと述べました。」と彼は述べました。「涼しいですが、それはそれが発見した総数のまだ約15%を意味します。」
Shipleyによると、まだ答えられていない重大な質問は、これらの脆弱性のそれぞれを発見するのにかかるコストです。「何個のトークンを燃やしていますか？1分間に500ドルの範囲だと聞いたので、コストが何かを知りたいです。」と彼は述べました。「確かに、「私たちはこれだけ多くを発見しました」と言うことができるなら、[彼らは答えることができます]計算コストはいくらでしたか？」
彼は、唯一の究極の修正は「ソフトウェア製作者にソフトウェアの責任を負わせる。それはこの混乱から抜け出す唯一の方法です。なぜなら、それは私たちをここに導いた根本的な不整合だからです。」と述べました。
