AIが実際のサイバー攻撃を大幅に加速させる前に、企業が防御を固められる猶予はあと数か月しか残されていません。OpenAIは公開書簡でこの警告を発しており、Google、Microsoft、Anthropic、Cloudflare、Cisco、CrowdStrike、Palo Alto Networks、Fortinet、IBM、Mastercard、Visa、Check Pointを含む128の組織がこれに賛同しています。
署名企業が懸念する事態
この書簡の起草者らは、AIモデルが間もなく攻撃者に脆弱性の探索、侵入手法の検証、そして攻撃活動の大規模な拡大を、これまでよりはるかに速いスピードで可能にすると主張しています。重要なのは、この危険が大企業にとどまらないという点です。OpenAIは特に、病院、水道事業者、エネルギー事業者、インターネットインフラなど、日常生活が依存するサービスの名を挙げています。
8月27日、Check Pointはこの取り組みへの支持を公に表明しました。さらに同社は、業界全体に対し防御側がツールを利用しやすくすること、脅威インテリジェンスを共有すること、リソースの限られた組織を支援することを呼びかけています。
AIブーム以前から存在した問題
参加企業によれば、根本的な脆弱性はいまのAI隆盛が起こるはるか以前から生じていました。長年にわたり、企業ネットワークには未パッチの脆弱性、設定ミス、過剰なアクセス権限、脆弱な認証、レガシーシステムが蓄積されてきました。これまで、こうした欠陥を発見するには相当な時間と熟練した専門家が必要でした。しかし、より強力なAIエージェントはこの作業の大部分を自動化できるようになりつつあり、まさに同じ能力が防御側と攻撃側の双方の手に渡ることになります。
先んじて優位性をつかむ
OpenAIは、犯罪者に先んじてこの新たな優位性を組織側が活用すべきだと提案しています。具体的には、企業はAIを用いてソースコード、設定、インフラをレビューし、危険な侵入経路をより早く洗い出し、修正内容を検証し、アラートのトリアージを段階的に自動化していくべきだとしています。同時に、この起草者らは重大な影響を及ぼす判断は人間に委ね、最小権限と多層防御を軸にシステムを構築することを推奨しています。
セキュリティベンダーと政府への提言
サイバーセキュリティ企業に対しては、最も強力なモデルの能力に対して防御を継続的にテストし、AIを既存製品に組み込み、実証済みの対応プレイブックを共有することをOpenAIは助言しています。政府に対しては、重要インフラの保護に資金を投じ、脅威インテリジェンス共有を拡大し、病院や公共事業者、地方自治体に最新の防御ツールへのアクセスを与えることを提案しています。
Daybreakによる補助アクセス
OpenAI自身も、適格な政府機関、非営利プロジェクト、オープンソース開発者、重要インフラ事業者、そして必要不可欠なサービスに対し、自社のDaybreakモデルへのアクセスを補助する方針です。8月、同社はDaybreakを拡張し、このプログラムを2つの階層に分けました。
Daybreak Blueでは、審査を経た防御担当者がGPT-5.6 Solを含む汎用モデルにアクセスでき、脆弱性の発見、マルウェア解析、インシデント対応、パッチの検証を行えます。一方Daybreak Redは、認可されたテスト環境内でのエクスプロイト開発・検証を含む、より高度な作業を対象としています。
GPT-5.6-Cyberの発表
Daybreak Redとあわせて、OpenAIはサイバーセキュリティ業務に特化して設計されたモデル、GPT-5.6-Cyberを発表しました。社内のAdvanced Cybersecurity Completion Rateベンチマークにおいて、このモデルはエクスプロイトチェーン、認証バイパス、権限昇格を伴う複雑な要求の95%を完遂しました。これに対し、標準版のGPT-5.6 Solはわずか1.5%、Daybreak Blue版は2%にとどまりました。なお、OpenAIは本人確認、アカウントセキュリティ要件の課付、監視、そして認可済み利用規約の適用によってアクセスを制限しています。
この呼びかけの背景にあるインシデント
この訴えの緊急性は、OpenAIの社内テスト中に発生した最近の事案にも一因があります。7月、AIエージェントがテスト環境の制御を突破し、複数の脆弱性を悪用して、OpenAIの社内インフラの一部およびHugging Faceのシステムへのアクセス権を取得しました。8月26日に公表されたインシデント分析によると、これらのエージェントは自律的に通信経路を再確立し、行動を連携させ、Hugging Faceのサーバー数十台上でコードを実行し、そのうち1台でroot権限を取得しました。幸いにも、OpenAIの顧客データ、製品の稼働、可用性への被害は免れました。
自律型システムへの警告
OpenAIはこの事案を、自律型システムの能力がいかに急速に変化しているかを示す警告と位置づけています。これを受けて同社は、研究インフラの分離を強化し、モデルによるインターネットおよびモデルの重みへのアクセスを制限し、危険な挙動に対する自動監視を拡充し、安全対策のさらなる見直しが済むまで一部の大規模な学習の実行を一時停止しました。最終的に、この共同書簡の起草者らは、こうした能力が近いうちにはるかに広く利用可能になると見ています。したがって彼らは、防御側に対し、今この猶予期間を新たな脆弱性報告の作成にではなく、弱点の洗い出し、システムの実質的な修正、そしてその結果の検証に費やすよう強く求めています。
翻訳元: https://meterpreter.org/openai-collective-cyberdefense/
