OpenAIは月曜日、防御的サイバーセキュリティ向けにフロンティアモデルへのアクセスを拡大すると発表しました。防御およびレッドチーム作業の各種ワークフローと、大手サイバーセキュリティ製品プロバイダーとの新しいパートナープログラムについて詳細を明らかにしています。
月曜日に公開された2本のブログ記事の中で、OpenAIは「Daybreak」プログラム――未公開のフロンティアモデルを民間組織や政府機関に提供し、防御的サイバーセキュリティ業務に活用してもらう取り組み――を更新するとともに、新しいモデルバリアントを導入すると発表しました。
OpenAIの「ChatGPT-5.6-Sol」を搭載する「Daybreak Blue」は、他の商用モデルと比べてサイバーセキュリティ上のセーフガードを緩めた状態で動作し、「ほとんどの防御担当者にとって推奨される出発点」と位置づけられています。脆弱性の発見、安全なコードレビュー、マルウェア分析、インシデント対応、パッチ検証といった作業をサポートします。
より高度なレッドチーム作業を想定した「Daybreak Red」は、「GPT-5.6-Cyber」と名付けられた新モデルへのアクセスを提供します。同社によると、このモデルは脆弱性の発見とそのテスト(あるいは悪用)により特化した訓練が施されているといいます。また、「デュアルユースのサイバータスク」に関する要求を拒否する可能性も低くなっています。
OpenAIによると、Daybreak Redを利用する組織については使用状況が厳重に監視・管理される予定です。GPT-5.6-Cyberは、Solと比べて悪意あるサイバータスクを遂行する能力が大幅に高いためです。同社が考案したセキュリティ評価では、エクスプロイトチェーンの開発、認証バイパス、権限昇格をはじめとするハッキング作業を含む複雑な要求について、両モデルをテストしました。その結果、Solの成功率が1.5%だったのに対し、Cyberは95%の要求を完遂しました。
OpenAIは、GPT-5.6-Cyberに関するより詳細なシステムカードを後日公開する予定だとしています。
「セーフガードを緩めた状態で動作するモデルには、悪用にせよ、意図しない挙動(ミスアライメント)にせよ、通常のモデル利用を超えたリスクが伴います」と同社はブログで述べています。「こうしたリスクがあるとはいえ、防御側がフロンティアの知能にアクセスできるようにすることは、サイバー防御の加速と自動化にとって極めて重要だと私たちは考えています」
さらにOpenAIは、大手サイバーセキュリティプロバイダー16社とのパートナーシッププログラムを発表しました。各組織は既存のセキュリティサービスを通じてOpenAIのモデルにアクセスできるとしています。パートナー企業にはIBM、CrowdStrike、Accenture、Ernst & Young、KPMG、Palo Alto Networks、Cisco、Cloudflare、Sophosなどが名を連ねています。
「これらのパートナー各社は、深いセキュリティの専門知識と、世界中の組織との確立された関係を有しています」とOpenAIはブログで述べています。「フロンティアのサイバーモデルを各社のサービスに組み込むことで、より多くの防御担当者が深刻な脆弱性を発見し、どれが重要かを検証し、より迅速に修正できるよう支援できます」
OpenAIやAnthropicをはじめとする企業各社は、一連のAIエージェントによるサンドボックス脱出事例が政策立案者を動揺させ、一部のサイバーセキュリティ専門家に「AI企業はテスト中にモデルをインターネットから適切に隔離するために十分な対策を講じているのか」という疑問を抱かせたことを受け、優先事項の再調整を図ろうとしています。先週OpenAIは、より優れたガードレールを開発してモデルの挙動を制御するため、新しい「Astra」モデルの開発をあえて減速させていると明らかにしました。
サイバーセキュリティおよびAIの専門家がCyberScoopに語ったところによると、AIシステムはソフトウェアコード中の脆弱性の発見と悪用において大きく進歩したものの、意図した通りに機能させるにはなお相当量の人間による誘導とそれを支える基盤が必要だといいます。
さらに、一部の研究では、そうした誘導がなければ、フロンティアに近いモデルであっても発見した脆弱性を完全に修正すること、あるいは修正の過程で新たなバグを生み出さないようにすることに苦戦する場合があることが示されています。
翻訳元: https://cyberscoop.com/openai-daybreak-expansion-specialized-cyber-services/
