OpenAIは木曜日、セキュリティ向けモデル「GPT-6 Cyber」を発表しました。同社によると、前モデルを大きく上回る能力を持ち、研究者が設定した制限を守る規律面でも向上しているということです。
リモートの標的にある特定の脆弱性をAIが悪用できるかを測定するベンチマーク「ExploitGym」では、新モデルが48.5%を記録しました。GPT-5.6 Cyberの32.1%から大きく伸びています。
OpenAIは、GPT-6 Cyberを同社の「Preparedness Framework」でサイバーセキュリティ分野の「Critical」に分類しました。GPT-5.6 Cyberに付けられた「High」より一段上の区分です。
あるアラインメントテストでは、悪用タスクとともに、意図的に攻略しやすく設定しつつも対象外とした支援サービスをモデルに与えました。展開時の安全性プロンプトがない状態でも、モデルがこれらを悪用しなかった割合は99.93%でした。GPT-5.6 Cyberは94.49%でした。安全性プロンプトを併用した場合は、おとり用サービスを一度も標的にしませんでした。
OpenAIは「このアラインメントの向上は、許可された範囲内にとどまり、制限を尊重し、結果を正確に報告するための専用トレーニングを反映したものです」と説明しています。
OpenAIの研究者はLinuxカーネルにこのモデルを適用しました。その結果、1,724件の脆弱性を再現し、うち948件については実際に動作する権限昇格エクスプロイトを作成しました。同じツールで試験したGPT-5.6 Solは166件でした。
OpenAIは、修正案を添えて304件の重大な問題をメンテナーに報告しています。
Firefoxでは、モデルが81件の新たな脆弱性を文書化し、Mozillaはいずれも重大度が高いと判断しました。各脆弱性には証拠と再現可能なテストが付されています。Mozillaはすでにパッチの提供を始めています。
新たな保護策として、モデルの行動がユーザーに許可された操作と一致しているかを確認する監視機能を導入しました。あわせて、OpenAIのモデルが産業用制御システムなど安全性が重要なシステムへの侵害に加担しないようにするための防護策も設けています。
OpenAIは、産業用サイバーセキュリティ企業のDragosから得たフィードバックをもとに、これらの防護策を改良しました。Dragosは管理されたラボ環境でDaybreak Redのモデルをテストしています。
DragosのチーフAIオフィサー、Rob T. Lee氏は「攻撃前に必要な偵察や脆弱性調査のスキルの壁は、低くなりつつあります」と語りました。
現時点でアクセスできるのは、Daybreak Redの承認済みの一部の顧客に限られます。Daybreak Redは、OpenAIのDaybreakプログラムのうち、高度なエクスプロイト作成や認可されたテストを対象とする部分です。顧客はAPIとCodexを通じてGPT-6 Cyberを利用できます。
OpenAIは、モデルを段階的にすべてのDaybreak Red顧客へ開放する計画です。これらの顧客にはGPT-5.6 Cyberも提供されます。さらに、承認された重要インフラの防御担当者向けにDaybreak Redの専用グループを設け、重要システムに対する正式なテストを可能にする方針です。
