OpenAIとHugging Faceを巡る事件では、あるエージェント集団が複数の脆弱性を連鎖的に悪用し、OpenAIの研究基盤と別企業の本番環境に自律的に侵入しました。この事件を受けて、OpenAIは安全要件の強化に着手しました。悪用された脆弱性には、未知のものとオンライン上に流出していた認証情報の両方が含まれていました。
OpenAIの社長であるグレッグ・ブロックマン氏によれば、ChatGPT Workは同氏の個人サイトにおいて約15分で13件のセキュリティ問題を特定し、さらに1時間かけてそれらへの対処を行ったといいます。この事例は、AIエージェントがセキュリティ対応をいかに加速させ得るかを示しています。
OpenAIのセキュリティ戦略
同社はセキュリティ対策を強化するとともに、AIを活用して防御力を高めており、主に4つの分野に注力しています。
Codexをはじめとするセキュリティツールが、コード変更の検証や脆弱性の特定を行い、開発者による修正作業を支援します。狙いは、脆弱性をより早期に発見し、修復にかかる時間を短縮するとともに、新たに書かれるコードに一部の脆弱性が混入すること自体を防ぐことです。
AIベースのシステムは、人間のアナリストに届く前の段階で、初期のセキュリティアラートのほぼすべてをトリアージしています。同社は一部の検知結果を限定的な自動対応と連携させる一方、影響の大きい判断については引き続き人間が責任を持つ体制を維持しています。
AIモデルは、脆弱性や設定ミス、過剰な権限付与、システム間の意図しない接続など、OpenAIのシステム内に潜む攻撃経路の可能性を探索します。この結果はセキュリティチームが弱点に対処する際の助けとなるほか、既存の対策が意図どおりに機能しているかを検証する手段としても活用できます。
同社はまた、ネットワークの分離、システムのハードニング、監視、パッチ適用、安全なデプロイ、アクセス制御といった基本的なセキュリティ対策への投資も継続しています。
組織への提言
AIモデルは実際のサイバー攻撃の一部を自動化する能力を高めつつあり、ソフトウェアのバグや見落とされたアクセス権限といった既存の弱点を、より容易に発見・悪用できるようにしています。
OpenAIは今年初め、自社のサイバー能力の一部を信頼できる防御側にのみ公開する取り組みを開始しました。その後数カ月の間に、他社もサイバー能力を備えたオープンウェイトモデルを相次いで公開しており、OpenAIはこれらが最先端からわずか数カ月遅れの水準にあると評価しています。同社は、能力の高いAIモデルへのアクセスがより広く行き渡ることで、脆弱性の発見・優先順位付け・修正がより迅速かつ容易になり、サイバーセキュリティを巡る損得勘定が防御側に有利な方向へ変わり得ると考えています。
OpenAIは、各組織が優先度の高いシステムから着手する形で、AIをセキュリティ運用に組み込み始めるべきだと述べています。AIエージェントは、脆弱性の特定と優先順位付け、修正案の提示、セキュリティ調査の支援に役立てることができます。
自動化の範囲は段階的に広げていくべきであり、まず読み取り専用のスキャンやアラートのレビューから始め、その後にリアルタイムのトリアージや限定的な自動対応を導入することが望まれます。影響の大きい判断については、引き続き人間による監視を維持する必要があります。
「この課題は、一社だけで解決できるものではありません。AI各社、セキュリティベンダー、企業、そしてメンテナーが検証済みの知見や修正策、実践的なプレイブックを共有し、一つの組織の発見がエコシステム全体の強化につながるようにすることを望んでいます」とブロックマン氏は述べています。
OpenAIは、AIを悪用した脅威が今後さらに拡大していく中で、各組織がセキュリティ運用の自動化をより一層進めていくと見込んでいます。同時に同社は、攻撃者に悪用される前に防御側が脆弱性へ対処できるようにするためのツールや手法の開発を続けていく方針です。
翻訳元: https://www.helpnetsecurity.com/2026/08/18/openai-strengthening-security-measures/
