OpenAI主導の連合、AIがサイバー攻撃のタイムラインを圧縮し企業の弱点を露呈させると警告

OpenAIが主導する企業連合が、AIによってサイバー攻撃の速度と規模が急速に拡大し、企業が長年抱えてきたセキュリティ上の弱点を悪用される前に修正できる猶予はますます少なくなっていると警告しています。

Microsoft、Google、Amazon Web Services、Anthropicを含む100社以上のテクノロジー企業やセキュリティ企業が署名した公開書簡で、同グループは「今後数カ月のうちに、世界中でモデルの能力が高まるにつれて、AIを悪用したサイバー攻撃はさらに広範かつ高度になるだろう」と述べています。「サイバー防御を強化できる時間は限られている」としています。

OpenAIのCEOであるサム・アルトマン氏もX上への投稿でこの緊急性を強調し、これを「サイバー防御にとって極めて重要な局面」と呼び、対応に残された時間はほとんどないと警鐘を鳴らしています。

この連合は「業界と政府の指導者たちに対し、技術・資源・専門知識の総力を挙げて」取り組むよう呼びかけており、その中には「サイバー対応能力を持つAIを防御側の手に渡すこと」や、高リスクの弱点の修正を優先することも含まれています。

連合によれば、今回の変化は新たな脆弱性の出現によるものではなく、規模の問題だといいます。つまり、企業が何年も修正に苦戦してきた弱点の発見と悪用を、AIシステムが加速させるということです。

この書簡は、OpenAI、Meta、Anthropicを含むAI開発企業が、高度なAIシステムにおいて制御とセキュリティに関する新たな疑問を投げかける新興の挙動を明らかにした数週間後に発表されました。

「長年放置されてきたバグ、過剰な権限、設定ミス、安全でない未パッチのソフトウェア、脆弱な認証、そして技術的負債……こうしたものがシステムを危険にさらしてきた」と書簡は付け加えています。

AIが悪用を拡大させ、攻撃のタイムラインが圧縮

書簡は、既存の脆弱性の発見と悪用を加速させるAIシステムの能力にこのリスクの原因があるとしています。

「長年放置されてきたバグ、過剰な権限、設定ミス、安全でない未パッチのソフトウェア、脆弱な認証、そして技術的負債……こうしたものがシステムを危険にさらしてきた」と書簡は付け加えています。

この書簡の署名企業の一つであるSpecterOpsは、こうした弱点はすでに存在しており、AIの能力向上に伴ってより迅速に悪用され得るという理由から署名したと述べています。

「私たちはこの書簡の中心にある3つの原則に同意する。弱点はすでに存在していること、高度なAIをより多くの防御担当者に届ける必要があること、そして対応は総力を挙げた広範なものでなければならないということだ」と同社は声明で述べています。

ArmorCodeでサイバーセキュリティのテクニカルリードを務めるロビー・ミューラー氏は、組織はすでに既知の脆弱性への対応において制約に直面していると述べています。

「これはAIの高度化の問題として捉えるべきではない。これはキャパシティの問題だ」とミューラー氏は述べ、組織が「ひと月に修正できる脆弱性はおよそ10件に1件程度に過ぎない」と付け加えています。

ミューラー氏は、脆弱性が複数のシステムにまたがる多段階の攻撃経路を形成した場合にリスクが高まると述べています。

「重要なのは検出された件数ではなく、どれが実際に成立する攻撃経路として連鎖するかだ……その経路さえ断ち切れば、リスクは消える」と同氏は述べています。

既存のセキュリティ対策の実行に焦点

この連合は新たな防御のカテゴリーを提示しているわけではなく、既存の対策の実行を重視しています。

「サイバー防御を、インシデント対応さながらの緊急性と連携をもって、経営陣が直ちに取り組むべき最優先事項とせよ」と書簡は述べています。

署名企業の一つである1Passwordは、この取り組みが「セキュリティを強化できる限られた猶予」を浮き彫りにしていると述べ、高リスクの弱点の修正、最小権限アクセスの徹底、統制の検証を呼びかけています。

Sophosは声明の中で、AIを悪用した脅威は企業と公共サービスの双方にとってリスクを高めるものであり、連携した対応が必要だと述べています。

「サイバー防御は共同で担うべき責任だ」と同社は述べ、この脅威に対処するには業界と政府の連携が不可欠だと付け加えています。

Sophosはまた、AIは防御側が「実質的な被害が生じる前に、脆弱性を発見し……脅威に対応する」上でも役立つと述べています。

変化の加速で高まる運用上の負担

書簡は、AIによってサイバー攻撃の規模と速度がともに拡大し、企業のセキュリティ運用にさらなる負担がかかると警告しています。

「今後数カ月のうちに、AIを悪用したサイバー攻撃ははるかに広範かつ高度になるだろう」と連合は述べています。

LogicMonitorの最高情報セキュリティ責任者(CISO)を務めるジョナサン・ハント氏は、多くの企業環境がそのスピードに対応できるようには設計されていないと述べています。

「悪意ある攻撃者はマシン並みの速度で動く一方、多くのレガシーシステムは今なお人間の反応速度に依存している」とハント氏は述べています。

同時に、各組織はシステムやソフトウェアの変更がより速いペースで行われる状況にも対応を迫られています。

Liquibaseの副社長を務めるライアン・マカーディ氏は、AIが攻撃の速度と開発の速度の両方を加速させていると述べています。

「AIは方程式の両サイドを加速させている」とマカーディ氏は述べ、セキュリティチームは手動レビューでは追いつかない速度で、変更が「承認済みで、安全であり、想定内のもの」かどうかを判断しなければならないと付け加えています。

資金とインセンティブをめぐる疑問

書簡は、特に重要なサービスを支える組織に対して、サイバー防御への投資拡大を呼びかけています。

BreachLockのCEOであるシーマント・セガール氏は、このアプローチがインセンティブの面で疑問を招くと述べています。

「AI防御ツールへの資金提供を政府に求めている企業は、まさにそのツールを供給して対価を得ることになる企業と同じだ……この提言は中立的なものとは言えない」とセガール氏は述べています。

Black Hills Information Securityのオーナーであるジョン・ストランド氏は、最も実行に移しやすい提言は脅威インテリジェンスの共有拡大を求める部分だと述べています。

「ある程度の実効性を持つ提言が一つあるとすれば……それはIOC(侵害指標)のより広範な共有だ」とストランド氏は述べています。

連合は、この脅威に対処するには業界と政府が一体となった対応が必要になると述べています。

「最も危険な弱点を修正し、その修正を検証し、うまくいった方法を共有することで、他の組織もそれを土台にできるようにする」と書簡は述べています。同グループは、こうした取り組みが企業や重要インフラを運用する組織の防御力強化につながり得るとしています。