AIツールが脆弱性発見を民主化し加速させる一方で、誤検知や「AIスロップ」によって脆弱性管理プログラムに負担をかけている。
AIによるバグハンティングは、脆弱性発見を加速させることで効果的なバウンティプログラムのあり方を変え、コード管理者にAIによる大量の低品質なバグ報告という新たな課題をもたらしています。
セキュリティ研究者たちは、大規模言語モデル（LLM）を活用し、リコン、APIのリバースエンジニアリング、コードベースのスキャンをかつてない速さで自動化しています。ファジングやエクスプロイト自動化、コードやウェブサイト全体でのパターン認識など、様々な手法にAIツールを適用することで、研究者たちは脆弱性をこれまで以上のスピードで発見しています。
「この1年で、私たちは『バイオニックハッカー』の時代に突入したと呼んでいます。これは、人間の研究者がエージェント型AIシステムを使ってデータ収集、トリアージ、発見を進める時代です」と、HackerOneのシニアバグバウンティプログラムマネージャーであるクリスタル・ヘイゼン氏は述べています。HackerOneは、提出やトリアージを効率化するためにAIツールをプラットフォームに導入しています。
HackerOneの調査によると、今年はAI関連の有効な脆弱性報告が2024年と比べて210%増加しました。また、AI脆弱性に対するバウンティの総支払い額も339%増加しており、バグバウンティプログラムがAI対応アプリケーションの脆弱性に対応する形で進化しています。主な発見は、プロンプトインジェクション、モデル操作、不適切なプラグイン設計などです。
AIスロップがディフェンダーに負担をかける
業界の専門家は、AIはあくまで「研究アシスタント」やガイドとして使うべきであり、脆弱性発見の主な手段とするべきではないと助言しています。
バグバウンティプラットフォームIntigritiのチーフハッカーオフィサーであるインティ・デ・セウケレール氏は、AIはハッカーの競争環境を平等化したと語ります。なぜなら、AIはスキルの低い研究者でも脆弱なシステムの特定やコードの分析を助けるからです。しかし、AIによる分析結果は必ずしも信頼できるものではなく、実務上の問題を引き起こしています。
「AIがエコーチェンバーや増幅器として機能し、自分が何かを発見したと信じ込む個人を、確証バイアスの悪循環に誘い込む場面を見てきました」とデ・セウケレール氏はCSOに語ります。
外部からの脆弱性報告に対応するセキュリティチームは、AIに大きく依存した兆候のある報告に対して、今後ますます懐疑的になる必要があります。
「トリアージサービスを提供するバグバウンティプラットフォームは、研究者の実績を長期的に測定し、AIスロップを企業に届く前に検出・認識できる高度な技術を使うことで、この問題に対処できるでしょう」とデ・セウケレール氏は述べています。
他のセキュリティ専門家も、AIツールをバグハンティングに適用した結果は現時点では賛否両論であり、慎重なトリアージによって問題を緩和できると考えています。
「AIツールを適切に適用し検証すれば高いインパクトのある発見もありますが、同時に膨大な数の報告が寄せられ、その多くが控えめに言ってもスロップ（低品質）であるため、プログラムが圧倒される事態も見られます」と、サイバーセキュリティおよびコンプライアンスコンサルティング会社ProCircularの攻撃的サイバーオペレーションディレクターであるボビー・クズマ氏は述べています。
一部のAIツールによって生成される質のばらつきが大きい報告の増加は、リソースの限られたプログラム、特に重要なオープンソースソフトウェアプロジェクトに負担をかけています。
例えば、ファイルのダウンロードによく使われるコマンドラインツールcurlプロジェクトは、AIで検出されたバグの提出をやめるよう公に呼びかけています。プロジェクトの管理者は、AIツールで生成された低品質なバグ報告にあまりにも多くの時間を費やしていると不満を述べています。
プロジェクトリーダーのダニエル・ステンバーグ氏は、根拠のない虚偽の報告の集中砲火をサービス拒否攻撃になぞらえました。最近では、AIツールが部分的に生成した本物のバグ報告が提出されたことを受け、批判をやや和らげています。
「誤検知」の洪水
ギュンター・オルマン氏（Cobalt.io CTO）は、AIが、ベンダーがしばしば低品質なバグ報告に圧倒されるという既存の問題をさらに悪化させていると警告しています。
オルマン氏によれば、セキュリティ研究者がAIに頼ることで「ノイズ、誤検知、重複報告の洪水」が生まれています。
「セキュリティテストの未来は、重複や低品質なバグを見つけるバグハンターの群衆を管理することではありません。必要なときに最高の専門家にアクセスし、継続的かつプログラム的な攻撃的セキュリティプログラムの一環として、悪用可能な脆弱性を見つけて修正することです」とオルマン氏は述べています。
英国の投資調査プラットフォームTrustNetのCISOであるトレバー・ホーウィッツ氏は次のように付け加えます。「最良の結果は、ツールの使い方を知っている人から生まれます。AIは速度と規模をもたらしますが、人間の判断こそがアウトプットをインパクトに変えるのです。」
クラウドセキュリティベンダーWizの脅威エクスポージャーヘッドでありバグバウンティハンターでもあるガル・ナグリ氏は、少なくとも熟練した実践者に関しては、AIツールがバグバウンティハンティングに劇的な変化をもたらしてはいないとCSOに語っています。
例えば、デフォルト認証情報やサブドメイン乗っ取りなど、インフラベースの脆弱性を大規模に自動化する研究者は、すでに信頼できるツールや検出手法を持っています。「そのようなケースではAIは必要ありません」とナグリ氏は述べています。
「AIの本当の価値は、認証済みポータルのテストや、広範なコードベースやJavaScriptファイルの分析など、専門家の研究者を補強することにあります」とナグリ氏は説明します。「AIがなければ以前は検出が困難だった複雑または微妙な脆弱性を明らかにするのに役立ちます。」
最新世代のモデルは、熟練したバグバウンティハンターに本当の支援を提供できますが、それは彼らを置き換えるのではなく、発見できる範囲を広げる形です。
「完全自律型エージェントは、特に認証や人間の文脈が重要なシナリオでは、まだ苦戦しています」とナグリ氏は付け加えます。
エンタープライズリスク管理
バグバウンティプログラムは、攻撃者に悪用される前に実際の脅威を継続的に明らかにすることで、企業のリスク管理戦略の延長線上に成熟しています。
セキュリティリーダーは、人的知見と自動化を組み合わせて、資産、サプライチェーン、API全体のリアルタイムな可視性を維持するため、継続的かつデータ駆動型のエクスポージャー管理へと移行しています。
HackerOneの報告によると、調査対象組織の83%が現在バグバウンティを利用しており、支払い総額は前年比13%増の8,100万ドルに達しています。
クロスサイトスクリプティング（XSS）やSQLインジェクションなど一般的な脆弱性タイプの対策が容易になる中、組織はアイデンティティ、アクセス、ビジネスロジックの欠陥など、より深いシステミックリスクを明らかにする発見と報酬に重点を移しています（HackerOne調べ）。
HackerOneの最新年次ベンチマークレポートによると、不適切なアクセス制御やIDOR（Insecure Direct Object Reference）脆弱性は前年比18%から29%増加しており、攻撃者と防御側の双方が現在どこに注力しているかが浮き彫りになっています。
「2025年の組織の課題は、スピード、透明性、信頼のバランスです。クラウドソーシングによる攻撃的テストを測定しつつ、責任ある開示、公正な報酬、AIによる脆弱性報告の検証を維持することが求められます」とHackerOneのヘイゼン氏は結論付けています。
