OpenAI、AIセキュリティテストを拡大し脆弱性報奨金を引き上げ

OpenAIは、セキュリティ分野のバグバウンティ（脆弱性報奨金）の報酬を引き上げます。中核製品における例外的に深刻な脆弱性については、各種ボーナスの条件を満たせば、研究者が約17万2,000ドルを獲得できる可能性があります。

同社は11月2日に報酬の引き上げを発表しました。あわせて、AIを活用した新たなセキュリティスプリントを実施する計画も明らかにしています。このスプリントでは、Cathedralの研究者が社内チームと協力し、脆弱性の発見と修正に取り組みます。

前回の取り組みの結果からは、セキュリティチームが直面する課題が見えてきます。脆弱性の発見が速くなっても、信頼できる検証、明確な責任分担、そして修正が本番環境に届いたことの確認は依然として欠かせません。

前回のセキュリティテストで緊急または優先度の高い問題53件を解決

Cathedralの研究者は社内チームに加わり、防御体制の検証と修正の評価を行います。参加者は、自身の研究の専門知識とOpenAIのモデルを組み合わせ、潜在的な弱点を調査します。

前回のスプリントでは、250人以上が100を超えるサービス領域で作業にあたり、プロダクトエンジニアの25%が脆弱性の発見と修正に専従しました。OpenAIによると、初日だけでチームは 緊急または優先度の高い問題53件を解決したということです。

Codexは、エンジニアが疑わしい欠陥を調べ、隔離環境で再現する作業を支援しました。その後、人間によるレビュー向けにパッチを準備しています。エンジニアは、深刻度を評価して発見事項を担当チームに振り分けるプロセスも整備しました。これは、従来の 脆弱性テストに自動化された調査を組み合わせたものです。

OpenAIによると、トリアージの結果、発見事項の37%が重複と判定され、ランタイム検証で再現できたのは19.5%でした。ただし、再現できなかった発見事項がすべて誤検知だったとは限りません。同社は、依存関係の欠落や設定の違いといったテスト上の制約もあったと説明しています。エンジニアはこうした経験をもとに、脆弱性の発見と、検証、確認済みの修復を結びつける継続的なプロセス「Defense Factory」を構築しました。

深刻で詳細に報告された脆弱性への報酬を増額

OpenAIは、Security Bug Bountyプログラムの報酬を引き上げます。深刻度が中、高、クリティカルの発見事項に対する報酬の中央値は、平均で4倍以上に上がります。

ChatGPTなどの中核製品に見つかったクリティカルな欠陥には、標準の報酬範囲で最大3万ドルが支払われるようになります。これらの中核製品で見つかる例外的にクリティカルな脆弱性は、引き続き最大10万ドルの基本報酬の対象です。条件を満たせばボーナスが加わり、受け取れる額は約17万2,000ドルに達する可能性があります。

新しい制度では、バグバウンティプログラムに参加する研究者は、追加のインセンティブも受けられます。

• 報告品質ボーナス。信頼性の高い概念実証（PoC）を含む詳細な報告に、より高い報酬を支払います。脆弱性を悪用できる条件や、想定される影響を示す証拠も評価の対象です。
• 研究者ロイヤルティ報酬。5段階のプログラムで、継続的にセキュリティ上の発見を報告する研究者に、段階的に増えるボーナスを支給します。
• 優先キャンペーンのインセンティブ。新機能の調査を対象に、期間限定のキャンペーンで追加報酬を提供します。

審査中の報告にも、新しい報酬範囲が適用されます。11月2日の発表前の30日間に報酬が支払われた案件については、更新後の基本報酬とロイヤルティ報酬の制度で、より高い額になっていた場合、OpenAIが差額を支払います。

前回のスプリントは、AIを活用した脆弱性スキャンを導入する組織にとっての課題も浮き彫りにしました。 

自動検出は、セキュリティチームの調査が追いつかない速さで発見事項を生み出すことがあります。特に、重複した報告や未確認の弱点が注意を奪い合う場合は顕著です。大規模な企業環境では、結論の出ない報告の仕分けに時間を取られ、外部に公開されたシステムに影響する確認済みの脆弱性への対応が遅れかねません。

OpenAIによると、追跡調査の結果、マージされたパッチと、システム全体に展開された修正との間にギャップがあることが判明しました。同社は、これを受けて検証の範囲を広げています。この経験は、脆弱性の確認とパッチの準備が、修復の一部にすぎないことを示しています。セキュリティエンジニアが脆弱性を特定しても、修正をテストして展開するのはアプリケーションチームです。開発者が承認したパッチがあっても、本番サーバーやコンテナで古いバージョンが動き続ければ、組織は無防備なままです。開発作業の完了と、実際の 修復の間に、隔たりが生じてしまいます。

AIを活用したテストを評価するセキュリティ責任者にとって、より有用な指標は、確認済みの脆弱性が本番環境で悪用可能な状態にとどまる期間です。調査段階の遅れは、発見事項の検証に問題があることを示す場合があります。展開待ちの修正が滞っていれば、リリース管理の弱点が表れます。こうした遅れを パッチ検証によって追跡すれば、発見の高速化が自社システムの脆弱な期間を実際に短縮しているかどうかを判断しやすくなります。

関連記事：過去のサイバー攻撃からセキュリティ上の弱点が見えてくることもありますが、AIを使った脅威には異なるアプローチが必要になるかもしれません。組織が備える方法を紹介します。