OpenAIの新モデル「GPT-6 Cyber」は、脆弱性の発見とエクスプロイト開発で成果を上げると期待されている。一方で、ただでさえバグ報告の対応に追われている防御側が、修正のペースを維持できるのかという懸念も強まっている。
OpenAIは、アクセスを制限したモデル「GPT-6 Cyber」を発表しました。同社はこれを、これまでで最も高性能かつアラインメントの取れたサイバーセキュリティ向けモデルと位置づけています。目的は、セキュリティ研究者が悪用可能な脆弱性を特定して検証し、その影響を評価したうえで、修正パッチが公開される前に強化できるよう支援することだとしています。
OpenAIの研究者によると、GPT-6 Cyberを使ってFirefoxで未知の重大な脆弱性81件を発見し、Linuxカーネルの脆弱性948件に対して動作するエクスプロイトを開発しました。948件のうち588件は、それまで知られていなかった脆弱性です。Mozillaはすでに修正の公開を始めています。Linuxで見つかった問題は、メンテナーが確認できるよう、パッチ案を添えて報告している段階です。
OpenAIの研究者は、166件のエクスプロイトをサンプルとして調べ、10種類の悪用手法を特定しました。同社は、これらの手法が新規のものだとしています。外部のカーネル悪用の専門家がこれまで目にしたことがないとされ、ローカルアクセスを持つ攻撃者がroot権限を取得できる可能性があるといいます。
OpenAIはアラインメントとセーフガードが強化された点を強調しています。GPT-6 Cyberは「許可された範囲にとどまり、制限を守り、結果を正確に報告するように訓練された」と説明しました。ExploitGym Honeypotの評価では、想定された範囲を逸脱した割合は0.07%にとどまり、GPT-5.6 Cyberの5.51%を大きく下回りました。
増えるバグ、新たな悪用経路
Noma SecurityでセキュリティストラテジーのVPを務めるChris Hughes氏は、Firefoxでの発見について、成熟したソフトウェアには防御側の想定よりも多くの脆弱性が潜んでいる可能性を示すものだと見ています。
「Mozillaによれば、フロンティアモデルの複数世代がすでにコードを強化した後でも、GPT-6 Cyberは重大なFirefoxのバグを見つけ出した」。Hughes氏はCSOの取材にこう語りました。「これが事実であれば、成熟したソフトウェアに潜む脆弱性のロングテールは、私たちの大半が想定していたよりも深いことになる。今年多くの人が議論してきた『脆弱性の黙示録（vulnpocalypse）』という圧力と同じ流れだ」
産業向けサイバーセキュリティ企業Dragosの新任チーフAIオフィサー、Rob T. Lee氏は、10種類の新規手法について別の見方を示しました。AIモデルは、より多くの脆弱性を掘り起こすだけでなく、新たな悪用経路まで生み出す可能性があるというのです。Dragosは最近OpenAIと提携しています。
「意味するところはいくつか考えられるが、モデルが新たな悪用経路を生み出せると示唆している点が興味深い」。Lee氏はCSOにこう述べました。「新しいTTPや悪用経路が加われば、検知はより複雑になる」（Rob T. Lee氏はDragosに入社したばかり。同社は創業者でCEOのRob M. Lee氏が率いている）
エージェント速度のセキュリティという構想
GPT-6 Cyberに関する記者向け説明会で、OpenAIの担当者は、モデルが次のような場面で役立つと主張しました。悪用可能性の検証、別の攻撃経路の調査、パッチの強化、パッチ展開の支援です。同社はこの目標を、セキュリティを「エージェント速度」で運用することだと説明しました。
OpenAIの研究者Eric Wallace氏は、目標は「脆弱性の悪用可能性を大規模に検証する」ことであり、影響の大きい欠陥を優先して扱うことだと述べました。さらに、別の悪用経路に対して修正を試験する重要性も強調し、「脆弱性が唯一の攻撃経路とは限らない」と指摘しました。
説明会では、OpenAIのサイバーセキュリティ研究リードであるClint Gibler氏が、PHPの脆弱性をめぐり、研究者、メンテナー、セキュリティベンダーと事前に調整したことにも触れました。「公開パッチとリリースに先行して動きたかった。パッチが出る前から、できるだけ多くのユーザーと企業を守れるようにするためだ」と同氏は語っています。OpenAIはCloudflareとも協力し、「バグの公表前でも、できるだけ多くのウェブサイトを事前に保護できるよう、WAF（ウェブアプリケーションファイアウォール）ルールを展開できるようにした」といいます。
欠陥の発見は、修正よりも測定しやすい
ただしOpenAIは、同社のモデルが企業のパッチ展開をどれだけ加速させるのか、あるいはリスクへの露出をどれだけ減らすのかを示す測定結果は提示していません。
Noma SecurityのHughes氏は、防御面での活用にはもっと厳密な評価が必要だと主張し、CSOに次のように述べました。「検知エンジニアリング、インシデント対応、システムの堅牢化、優先順位付けは、スコア化が難しい。成功は各組織の環境、ツール、リスク許容度に左右されるからだ」。防御側のベンチマークを共有すれば、進歩の方向が「単にバグをより多く見つけることではなく、修正のギャップを埋める取り組み」に向かうと、同氏は考えています。
Hughes氏はこう付け加えました。「OpenAIのPatch the Planetダッシュボードでは、現時点の修正率が25%未満となっている。発見能力が向上したことで、この差はさらに広がる可能性が高い。つまり、見つかっても修正されない問題が増え、同等の能力を持つ攻撃者や、下位モデルに優れたハーネスエンジニアリングを施した攻撃者に見つけられる恐れがある。AIによる発見の産業化が進むなか、組織が直面するリスクはいっそう高まる」
強化されたセーフガードと制限付きアクセス
OpenAIは、自社のPreparedness Frameworkに基づき、GPT-6 Cyberのサイバーセキュリティ分野での評価を「Critical」に分類しています。
「範囲逸脱が前モデルの5.51%から0.07%に減ったのは、確かな改善だ」とHughes氏は評価しました。「ただし、これらのモデルが動作する規模を考えると、ごくわずかな割合でも、誰も許可していないシステムに対する操作が起きることを意味する」
OpenAIによると、GPT-6 Cyberは当初、APIとCodexを通じて、承認された一部のDaybreak Redの顧客に提供されます。Daybreak Redは、OpenAIの信頼済みアクセス型サイバープログラムであるDaybreakにある2つの審査済みアクセス階層のうち、より制限の緩い階層です（Daybreak Blueは、OpenAIがほとんどの防御担当者に推奨する階層です）。OpenAIは今後数週間をかけて、GPT-6 CyberへのアクセスをすべてのDaybreak Redの顧客へ段階的に広げるとしています。あわせて、同じ顧客層にGPT-5.6 Cyberも提供します。
OpenAIは記者説明会に先立つ資料で、次のように述べています。「私たちは、フロンティア級のサイバー能力へのアクセスを、より多くの組織やセキュリティコミュニティの人々へ責任ある形で広げようとしている。まずは、Astra向けDaybreak Blueのアルファ版へのアクセスを拡大する」。AstraはOpenAIの汎用フロンティアモデルであるGPT-6のことです。
