- OpenAIは、将来のLLMがゼロデイ開発や高度なサイバースパイ活動を支援し得ると警告
- 同社は防御ツール、アクセス制御、階層型サイバーセキュリティプログラムに投資
- 新設のフロンティアリスク評議会が、フロンティアモデルにおける安全策と責任ある能力活用を指針
将来のOpenAIの大規模言語モデル（LLM）は、理論上、防御が堅固なシステムに対して動作するゼロデイのリモートエクスプロイトを開発できたり、複雑でステルス性の高いサイバースパイ活動を実質的に支援できたりする可能性があるため、より高いサイバーセキュリティリスクをもたらすおそれがあります。
これはOpenAI自身の見解であり、同社は最近のブログで、自社のAIモデルにおけるサイバー関連能力が「急速に進歩している」と述べています。
一見すると不穏に聞こえるかもしれませんが、OpenAIはこれを前向きに捉えており、こうした進歩は「サイバー防御にとっても大きなメリットをもたらす」としています。
ブラウザをクラッシュさせる
将来、このような形で悪用される可能性のあるモデルに先回りして備えるため、OpenAIは「防御的なサイバーセキュリティタスク向けにモデルを強化し、コード監査や脆弱性のパッチ適用といったワークフローを防御側がより容易に実行できるツールの開発に投資している」と述べています。
ブログによると、そのための最善のアプローチは、アクセス制御、インフラの強化、出口（エグレス）制御、そして監視を組み合わせることだとしています。
さらにOpenAIは、サイバーセキュリティ関連のタスクに取り組むユーザーや顧客に対し、段階的に強化された機能へのアクセスを提供するプログラムを近く導入すると発表しました。
最後に、Microsoftが支援するこのAI大手は、フロンティアリスク評議会（Frontier Risk Council）と呼ばれる諮問グループを設立する計画も明らかにしました。このグループは経験豊富なサイバーセキュリティの専門家や実務家で構成され、当初はサイバーセキュリティに重点を置きつつ、その後は他分野にも活動範囲を広げていく予定です。
「メンバーは、有用で責任ある能力と悪用の可能性との境界について助言し、そこで得られた知見は、当社の評価と安全策に直接反映されます。評議会については、今後さらに情報を共有していきます」とブログには記されています。
OpenAIはまた、サイバー分野での悪用は「業界のあらゆるフロンティアモデルから起こり得る」とし、そのために同社はフロンティアモデルフォーラム（Frontier Model Forum）の一員として、業界パートナーと知識やベストプラクティスを共有していると述べました。
「この文脈において、脅威モデリングは、AIの能力がどのように兵器化され得るか、さまざまな脅威アクターにとってどこに重要なボトルネックが存在するか、そしてフロンティアモデルがどのように実質的な能力向上をもたらし得るかを特定することで、リスク軽減に役立ちます。」
