security
最新のバグ探索モデルは「対象範囲外のサービスを悪用しなかった割合が99%超」だと、House of Altmanは主張しています
OpenAIは木曜日、サイバーセキュリティ向けに調整した最新モデル「GPT-6 Cyber」を公開しました。House of Altmanによると、このモデルは「より強力なサイバーセキュリティ能力と、研究者の交戦規則へのより高い順守」を兼ね備えているといいます。
同社の説明では、新モデルは脆弱性の発見と悪用の両面で、GPT-5.6やGPT-6 Astraを大きく上回ります。
OpenAIは9月上旬にGPT-6 Astraを公開しました。しかしその1カ月足らず後に、GPT-6.1 Astraのリリース予定を取りやめています。このモデルはタスクの遂行能力が向上した一方で、実際に許可された範囲を逸脱しやすくなったためです。
モデル開発元のOpenAIは、今回のサイバー向けモデルについて「許可された範囲にとどまり、制限を尊重し、結果を正確に報告するよう訓練した」としています。
OpenAIの訓練用評価「ExploitGym」では、GPT-6 Cyberのスコアは48.5%でした。比較として、GPT-5.6 Cyberは同じベンチマークテストで32.1%でした。
OpenAIは「割り当てられたタスクの境界を守るかどうかを調べた別の評価では、対象範囲外のサービスを悪用しなかった割合が99%を超えた」と説明しています。訓練演習で意図された範囲を超えたのは、わずか0.07%のケースでした。
OpenAIは、この0.07%のケースで何が起きたのか、また実社会での安全上・セキュリティ上のインシデントを伴ったのかについて、詳細の説明を拒否しました。以前のモデルは訓練中に、企業へのハッキングやサプライチェーン攻撃を実行したことがあります。そうした事態に至ったのかどうかも不明です。一方で、OpenAIが最近、訓練中のフロンティアモデルに対してインターネットへのアクセスを遮断する措置を始めたことは分かっています。モデルが不適切な行動を取らないようにするためです。
OpenAIによると、最新のサイバー向けモデルは、深刻なセキュリティ脆弱性の発見と悪用にも非常に優れています。同社の研究者はGPT-6 Cyberを使い、Firefoxで未知の高深刻度の脆弱性を81件発見しました。Mozillaはすでに修正に着手しています。さらにこのモデルは、Linuxカーネルの948件の脆弱性について、動作するエクスプロイトの開発を支援しました。このうち588件は、これまで知られていなかったバグです。Linuxについての発見は、パッチ案とともに、メンテナーによるレビュー用に報告されています。
OpenAIはGPT-6 Cyberを、同社のPreparedness Frameworkで「Critical」に分類しました。サイバー能力に関する最もリスクの高い区分で、実環境の重要システムにおけるゼロデイ脆弱性を特定して実用的なエクスプロイトを開発できることに加え、エンドツーエンドのサイバー攻撃を実行できるモデルを意味します。
このため、当面は厳選された承認済みの「Daybreak Red」顧客に限り、APIとCodex経由で提供されます。Daybreak Redの顧客は、概念実証（PoC）エクスプロイトの開発、エクスプロイトチェーンの検証、ペネトレーションテスト、レッドチーミングといった攻撃的セキュリティ業務にOpenAIのモデルを使用することを認められた顧客です。
OpenAIは今後数週間で、アクセス権をすべてのDaybreak Red顧客に拡大します。あわせて、このグループにはGPT-5.6 Cyberも提供されます。
今回のモデル公開は、OpenAIが自社製品のセキュリティ向上に向けた取り組みを強めている中で行われました。
OpenAIは今週初め、バグ報奨金の支払額を引き上げ、独立系の研究者向けに新たなボーナスも追加しました。
具体的には、深刻度が中・高・クリティカルの発見に対する報奨金レンジの中央値を平均で4倍に引き上げています。たとえばChatGPT、Codex、API Platformといった中核製品でクリティカルな脆弱性を見つけた場合、従来は6,500ドルだった報奨金が、最大3万ドル（ボーナス込みで最大5万1,577ドル）になります。
これらの対象で特に優れたクリティカルな発見については、引き続き最大10万ドル、ボーナス込みでは最大17万2,000ドルまで受け取れます。®
