世界がAnthropicの強力な新しいAIモデルClaude Mythosとその深刻なソフトウェア脆弱性を発見する能力についてパニックと熱狂の間を行き来している一方で、オープンソースAIシステムはすでに脆弱性狩りの風景を革新しています — はるかに低コストで。
これらの急速に高度化するオープンソースツールは、防衛高等研究計画局(DARPA)の 人工知能サイバーチャレンジの産物です。これはアメリカの広大な重要インフラのネットワークでバグを迅速に見つけて修正できるAIシステムの開発を促進するための複数年の取り組みです。DARPAのコンテストから生まれた脆弱性狩りシステムはClaude MythosやOpenAIの同様の新しいツールのような華やかな発表は得られませんでしたが、それらはオープンソースであり実行するのがはるかに安いため、はるかに多くのインフラプロバイダー、企業、独立したソフトウェア開発者を支援できました。
DARPAコンペティションをバックミラーに見ながら、優勝チームと他のファイナリストは学んだことを実践に移し、インターネット全体を静かに支えるオープンソースパッケージを保護するのを助けています。重要インフラオペレーターと彼らのベンダーとのつながりを築く努力はまだ初期段階にありますが、DARPAと数人のコンペティション優勝者はCybersecurity Diveに新しいAIツールがどれほど効果的であることが証明されたかに満足していると語りました。
米国のサイバーセキュリティ労働力が薄く広げられ、敵がAIを使って彼らの攻撃をスピードアップしている時代において、国の最良の希望は混乱につながる前に脆弱性を見つけて修正するのを助ける自動化されたツールであるかもしれません。
どこでもバグを見つける
DARPAが2025年8月にそのチャレンジの3人の優勝者を発表した後、彼女のAIシステムを使用して重要なソフトウェアの脆弱性を見つけて修正したコンペティションのファイナリストのために140万ドルのボーナス賞金プールを作成しました。同機関はチームの提案を審査して重要なオープンソースパッケージを精査し、彼らがプロジェクトのメンテナーとどのように関わったかを追跡しました。7人のコンペティションファイナリストの各1人は最大20万ドルを獲得することができました。プロジェクトあたり最大1万ドルです。
3月に有給の脆弱性狩りが終わるまでに、チームはAndroid、Linux、人気のあるデータベースエンジンSQLite、広く使用されているデータストレージツールRedisを含む30以上の商用およびオープンソースプロジェクトで83の脆弱性を発見しました。政府が確保した140万ドルの賞金のうち、83万ドルを授与しました。
それ以来、「チームは他のプロジェクト全体で追加の脆弱性を見つけてパッチを作成し続けている」と、コンペティションを監督し、現在彼らの仕事の新しい段階でチームと連絡を取っているDARPAプログラムマネージャーのアンドリュー・カーニーは述べました。
DARPAコンテストの優勝者であるTeam Atlantaは、U-BootブートローダーといくつかのコアApacheライブラリの欠陥を発見しました。彼は述べました。別のファイナリストである42-b3yond-6ugは、重要インフラに広く埋め込まれたデバイスをハッカーが機能不全にさせる可能性があるLinuxカーネルの脆弱性を特定しました。
3位のチーム、Theoriは、インターネット上の誰もが頼る「あらゆる種類の本当に広く使用されるオープンソースプロジェクト」で欠陥を見つけるために、そのシステムXintを展開しました。と会社の研究者であるTyler Nighswanderは述べました。Xintは、一般的なデータベースツールRedis、Postgres、MariaDB、およびPython、Linux、MacOSとiPhoneを搭載するAppleのXNUカーネルの脆弱性を特定しました。
AIは「ロジックバグ」を見つけるのに特に有用でした — 従来の脆弱性評価ソフトウェアが欠陥としてフラグを立てないフローされたコードです。AIがコンテキストの理解をより良くするにつれて、「自動化されたツールはより多くの境界をプッシュできる」と述べました。2位チームTrail of Bitsのプリンシパルセキュリティエンジニア、Michael Brown。
そして欠陥を見つけることがほとんどの注目を集める一方で、AIシステムの彼らの発見を検証し、彼らの自動的に生成された修正の能力は彼らの真の超大国であるかもしれません。
重要インフラ組織は通常、高度にカスタマイズされたハードウェアとソフトウェアを実行し、カスタム設計されたデバイスでパッチをテストするのに苦労することがよくあります。脆弱性ハンターはDARPAのコンペティションのためにパッチ検証機能を開発する必要があったため、彼らの最新システムはそれらの機能を含まれています。
「そこに非常に多くのパワーがあり、セーフティクリティカル、高確実性が必要なシステムのための非常に多くの価値があります」とカーニーは述べました。「私たちがこれらの会話[インフラストラクチャ組織とともに]を持つ場合、それは私たちが私たちの時間の多くを費やしているところです。」
「それらの遅い企業[と]業界がこのテクノロジーを採用するように説得するのは少し難しかった。」
Tyler Nighswander
研究者、Theori
重要インフラの障害物
チームがコアインターネットアーキテクチャの修正に忙しい一方で、DARPAは彼らを重要インフラのオペレーターと彼らの機器を供給するベンダーとつなぐ試みもしました。アメリカのコンピュータ化された産業機械の多くは古く、不安全で、維持されていません。そしてDARPAはボランティアの脆弱性ハンターがハッカーが彼らを悪用する前に大きな欠陥を根こそぎにすることを望んでいます。
DARPAはAIツールの可能性についていくつかのセクター調整委員会(SCC)にブリーフィングしました。カーニーは最近、コンペティションチームの進歩を共有するためにヘルスセクター調整委員会の会議で話しました。「そのようなフォーラムは本当に焦点を当てているものです」と彼は述べました。「彼らはメッセージを出すのに非常に効率的だからです。」
DARPAが脆弱性ハンターと重要インフラオペレーター間で促進した紹介は「様々な程度の成功」を持っていました。とNighswanderは述べました。多くの組織は新しい技術を採用することに熱心ではないと述べました。「本当に遅かった。異なるセクターは異なる採用サイクルと取り込み意欲を持っています。」
一部のインフラ企業は、AIシステムが彼らの環境でどのように機能するかを理解していません。他の人はAIのヘルプを拒否しています。彼らの人間のセキュリティチームで十分だと思うからです。さらに他の人はAI脆弱性検出に興味がありますが、必要な許可を得ることができません。「その赤いテープの一部を切る方法を理解しようとするのは素敵だろう」とNighswanderは述べました。「今のところそれが最大の制限になっているからです。」
Theoriは「5未満」の重要インフラエンティティとの脆弱性狩り契約に署名しました。とNighswanderは述べました。「それらの遅い企業[と]業界がこのテクノロジーを採用するように説得するのは少し難しかった。」
今までのところ最大の成功事例はTrail of Bitsと保健社会福祉局のパートナーシップでした医療機器の欠陥を狩るために。ブラウンが述べたプロジェクトはヘルスケアプロバイダーと彼らのサプライヤーとの強いパートナーシップを通じて多くの脆弱性を修正しました。
インフラベンダーは定期的に軽量のオープンソースパッケージを使用しています — 特に埋め込みデバイスで — 脆弱性ハンターの既存の作業は直接関与したくないベンダーでさえも重要な下流効果を持つでしょう。
「それは価値を提供してから、業界固有のまたはセクター固有の企業とエンティティとのこれらの会話を始める方法でした」とカーニーは述べました。
Mythosを破壊する
いつAnthropicが発表したClaude Mythos Previewと言ったのは公開リリースには危険すぎた、ビジネスコミュニティ全体でショックと警告を促す。元のDARPA競合他社はほぼ肩をすくめました。
「それは非常にクールです」とNighswanderは述べました。しかし「これは私たちがしばらくの間住んでいた世界です。」
それでも、AI脆弱性検出の周りの新しいパブリシティはオープンソースシステムの背後にあるチームに利益をもたらすことができました。「それは人々が「ああ、これは私の会社が心配する必要があることです」を見つけるのにつながります」とNighswanderは述べました。
DARPAコンテストのファイナリストはOpenAIとAnthropicに対しても利点があります。彼らのオープンソースツールは大きなAI企業の製品よりはるかに安いからです。それはアクセストークンで数千ドルの費用がかかることができます。
脆弱性狩りにClaudeを使用することは「メニューに価格がない高級レストランに現れるようなもの」です。と、Trail of Bitsの研究開発のディレクターであるTrent Brunsonは述べました。「あなたは大きなコードベースを持っていることを知っています。あなたはどのバグを持っているのか知りません。…企業はトークンに5万ドル、7万5000ドルを費やすことができ、それを実現しさえしないかもしれません。そしてそれから彼らは非常に低い情報バグを思いついているかもしれません。」
現金に苦しむ重要インフラ企業はOpenAIとAnthropicのツールをDARPAのファイナリストのはるかに安いが同様に効果的なサービスに有利に通す可能性があります。「より多くの企業は底線を見ようとしているだろう」とブランソンは述べました。「むしろそれにAIトークンを投げるのではなく。」
コンペティションを超えて
彼らはDARPAコンペティションを後ろに残したので、Theori、Trail of Bitsと彼らの同僚は彼ら自身のAIシステムを実装するために異なるアプローチを取りました。
Theoriはオープンソースパッケージメンテナーと協力していますが、Xintを商用化したままであり、彼らの製品を評価するための企業との契約です。「私たちはこれまでかなり成功しています」とNighswanderは述べました。対照的に、Trail of Bitsはオープンソースパッケージに主に焦点を当てています。彼らのツール、Buttercupを商用化することは会社を「根本的に」変えるだろう。とブランソンは述べました。
脆弱性ハンターは競争環境から出た時、彼らのAIシステムを修正する必要がありました。ツールはDARPAがチャレンジのために作成した「合成」欠陥ではなく、実際の脆弱性を見つけることができる必要があります。彼らはスコアリングアルゴリズムに供給するデータだけでなく、人間が簡単に読める報告書を作成する必要があります。そして、彼らは重く構造化されたコンペティションが必要とするよりも広い範囲の入力を評価することができる必要があります。
Trail of Bitsは医療機器のファームウェアを分析するための作業のために完全に新しいシステムを構築しました。これは通常バイナリで書かれています。ソースコードを含むソフトウェアとは異なり。バイナリコードは組み込みデバイスが通信する主な方法です。しかし、AIはソースコードのようにそれが自然言語のようには見えないため、処理するのに苦労しています。その問題が解決されたら、ブランソンは述べました。「世界は私たちのカキです。」
「テクノロジーが持ち続けるパフォーマンスと影響にとても興奮しています。」
Andrew Carney
プログラムマネージャー、DARPA
AIの本当の海の変化
DARPA、コンペティションファイナリスト、サイバーセキュリティ専門家は、AIが脆弱性を見つけるプロセスをどれだけ変えるかを過度に述べることはほぼ不可能だと述べました。
複数の人が6ヶ月かかるのに使われたソフトウェアセキュリティ評価は、今AIによって数時間で行うことができます。しばしばより良い結果とともに。とNighswanderは述べました。「その規模と効率は信じられません。」
テクノロジーは明らかに両刃の剣です。国土安全保障省の新興技術政策の元ディレクター、Nick Reeseは、「セキュリティプロフェッショナルのための重要な機会を提示」する同じツールも「彼らが同じデータにアクセスした場合、攻撃者に対して潜在的な利点」を作成すると述べました。
しかし、DARPAは楽観的に物事を見ています。2004年のDARPAの最初のチャレンジから生まれた自動運転車が市場に当たるのに何年もかかりました。AIバグ修正コンペティションでは、カーニーは述べました。機関は「経済的に実現可能で同時に」「技術的なミラクル」を見ることを決して考えていませんでした。
「私は非常に興奮しています」とカーニーは述べました。「テクノロジーが持ち続けるパフォーマンスと影響に。」
