セキュリティ
「Daybreak」プログラムが、リソース不足に悩むチームに補助金付きモデル、トレーニング、サポートを提供
OpenAIは、資金に乏しいサイバー防御担当者が自社サービスや研修を利用できるよう、世界中の防御者に対して10億ドル分のクレジットを提供すると発表しました。
このAI大手は、木曜日に発表した「Daybreak for Frontline Defenders」構想の一環として、今後6ヶ月間にわたり組織がこの補助クレジットを活用することを見込んでいます。重要インフラ関連組織、地域銀行、非営利団体、オープンソースのメンテナーは、オンラインでアクセスクレジットに申し込むことができます。
これらの組織は、人々が日々頼りにしている重要なサービスを守る役割を担いながらも、高度なモデルやエージェント型技術を使ってサイバーセキュリティを強化するための予算や人員を持たない防御者たちです。そのため、水道システムや電力事業者、病院は、業務停止と身代金要求を狙うランサムウェア攻撃者にとって、また重要サービスの妨害と大規模な混乱を目論む国家支援型のサイバー工作員にとって、魅力的な標的となっています。
多くの国家安全保障およびサイバーセキュリティの専門家は、攻撃者が自律型エージェントなどのAIツールを使って侵入攻撃を実行するケースが増えるにつれ、こうした妨害行為は今後さらに深刻化する可能性が高いと指摘しています。
「ここ数週間、多くのCISOたちと話をしてきましたが、今や大方の見方として、重要インフラの停止が日常茶飯事になる世界に向かっているのではないかという段階に来ていると感じています」と、OpenAIの社長グレッグ・ブロックマン氏は木曜日のライブイベントで語りました。「自分の街の水道が1週間止まる、それが当たり前のように起きてしまう。これは非常に恐ろしいことです。私たちは行動を起こさなければなりません。だからこそ、有言実行として実際に資金を投じているのです」
重要インフラの停止が日常茶飯事になる世界に向かっているのかもしれない
この新たな取り組みは、OpenAIが今夏初め、自社モデル2件が暴走し、指示をサンドボックスからの脱出を許可するものと解釈したエージェントの群れを生み出し、Hugging Faceをハッキングしたことを認めた後、自社モデルの安全性をめぐって厳しい監視の目にさらされている最中に発表されました。
公共政策団体Monument Advocacyでサイバーセキュリティ部門を率いるタチアナ・ボルトン氏は、OpenAIがITだけでなく制御技術(OT)にもリソースを投じていることは「素晴らしい」と評価しています。
「OT分野におけるAIの活用は避けられない流れであり、事業者は今のうちに備えておく必要があります」とボルトン氏はThe Registerに語りました。「今回のような取り組みは、OT担当者がAIツールに慣れ親しみ、それを安全に運用する方法を学び、脅威がエスカレートする前に予防的な防御戦略を築く助けになります」
ただし同氏は、ソフトウェアのクレジット提供だけでは根本的な課題は解決しないとも付け加えました。
「OT環境はレガシー技術の制約、エンジニアリング人材の不足、そして自動化された変更や迅速なパッチ適用に対する強いリスク回避姿勢に悩まされています」とボルトン氏は述べました。「その規模感で言えば、OpenAIの今回の単発の拠出額は、連邦の(州・地方サイバーセキュリティ助成プログラム)SLCGPによるインフラ関連助成5,000万ドルの20倍以上に上り、(米環境保護庁)EPAが中規模・大規模の水道事業者向けに直近で拠出したサイバーセキュリティ・レジリエンス関連助成金プール1,175万ドルの85倍以上に相当します」
水道分野に焦点を当てたMS-ISACの試験プログラム
ブロックマン氏によれば、OpenAIはモデルのクレジットを提供するだけでなく、重要分野の防御担当者向けにトレーニングや実践的なサポートも強化していく方針です。今週同社は、米国内40州以上の公益事業者と会合を開きました。これらの事業者は合わせて、米国に住む人々の半数以上にサービスを提供しています。
また、この新たな取り組みの一環として、OpenAIは複数州情報共有分析センター(MS-ISAC)との試験プログラムを開始し、州・地方・部族・準州レベルのサイバー防御担当者、まずは公共部門と水道システムの防御担当者から研修と支援を行う予定です。
木曜日のOpenAIのブログによると、「この試験プログラムでは、Daybreakへのアクセス権と、ガイド付き研修および実践的な支援を組み合わせ、まずは一部の公共部門および水道システムの防御担当者を対象に、調査結果の検証・優先順位付け、対応の調整、そして時間をかけて拡大可能な再現性のある手法の確立を支援します」としています。
「Astra」デビューのタイミングに合わせて
こうした社会貢献的な取り組みは、OpenAIが最新モデル「Astra」を発表するタイミングと重なっています。木曜日のイベントでは、研究者のエリック・ウォレス氏がこのモデルを「サイバーセキュリティにおいて世界最高性能のモデル」と評しました。ウォレス氏は、OpenAIにおけるモデルのサイバーセキュリティ能力のトレーニングと評価の取り組みを統括しています。
今週の初め、OpenAIはAstraがサイバーセキュリティの「クリティカル」レベルの能力しきい値に到達したと発表しました。これは、この新型モデルがゼロデイの脆弱性を発見・悪用する能力に非常に優れており、悪意あるユーザーによる悪用はもちろん、モデル自身が「整合性を欠いた」場合に有害なサイバー行為を実行しうるという意味で、重要システムに対して重大なリスクをもたらすことを意味します。
このため、OpenAIはさまざまな安全対策を通じて制限をかけた上でAstraを公開したとウォレス氏は説明しています。「特定のプロンプトを通過させないようにするシステムレベルの緩和策などがあります」と同氏は述べました。「また、特定の種類のタスクを拒否するモデルレベルの拒否機能もあります」
これは、OpenAIの「Daybreak Blue」および「Daybreak Red」プログラムの参加者も、初日からAstraにアクセスできるわけではないことを意味します。Daybreak Blueは、選ばれたパートナーのみが防御的なサイバーセキュリティ業務向けにGPT-5.6 Solを利用できる、アクセス制限付きの階層です。
Daybreak Redはさらに複数段階の承認を必要とし、概念実証(PoC)のエクスプロイト開発、エクスプロイトチェーンの検証、ペネトレーションテスト、レッドチーム演習といった認可された攻撃的セキュリティ活動にGPT-5.6 Cyberを使用します。
このAI大手は、「後日」両プログラムの参加者がAstraを利用できるようにする作業を進めているとウォレス氏は述べています。®
