Unit 42、AIによって守る側から攻撃側へ力の均衡が移ったと警告

Unit 42の首脳陣は、フロンティアAIモデルの内部テストと、市販のAIツールが実際の攻撃で悪用されている状況を見て、本気で懸念を強めています。

パロアルトネットワークスの脅威インテリジェンス部門でシニアバイスプレジデントを務めるサム・ルービン氏は、水曜日のメディア向け説明会で「誇張ではなく、これはサイバーセキュリティにおける世代交代的な変化だと私たちは考えています」と述べました。

ルービン氏によると、セキュリティと脆弱性の間でこれまで保たれてきた比較的均衡した状態は、攻撃者がネットワークの弱点を高速で発見・悪用できるフロンティアAIモデルの能力によって崩れつつあるといいます。

Unit 42は、容易に入手可能なエージェント型AIモデルが示す能力や、防御目的では依然として制限がかけられているフロンティアAIモデルによって解放される能力が、力の均衡を守る側から攻撃側へと移していると警告しました。

ルービン氏は「私たちが長年かけて築き上げてきた防御は、こうしたマシン速度の攻撃を想定して構築されたものでも、対応の準備ができているものでもありません」と述べています。「組織は、こうした攻撃を前にして迅速に検知・対応するための備えができていないのです」

4月に遡ると、Anthropicはパロアルトネットワークスをはじめとする主要テクノロジー企業を集めてProject Glasswingを立ち上げました。これは同社のMythosモデルを使ってセキュリティ上の欠陥を発見・対処するための取り組みです。この時点でUnit 42は、同様の能力が1年以内に攻撃者の手に渡るだろうと予測していました。

「さて、それから5カ月が経った今、私たちはこの脅威の初期の波が実際に現れ始めているのを目にしています」とルービン氏は語ります。

Unit 42は現在、顧客企業の一社が受けた攻撃を調査中です。この攻撃では、攻撃者がエージェント型フレームワークを用いて、企業全体にわたる50個のアプリケーションやその他の脆弱性を10時間足らずで突破しました。ルービン氏の見立てでは、AI以前の時代であれば少なくとも10日はかかったであろう作業を、攻撃者はAIによって10時間で成し遂げたことになります。

Unit 42で脅威インテリジェンス担当バイスプレジデントを務めるシェロッド・デグリッポ氏によると、攻撃者はすでに攻撃チェーンの全段階でAIを活用しているといいます。「すべてが一度に完全にエージェント化された攻撃には、まだ至っていません。しかし今はまさに、一つひとつの工程が段階的にAI化されている状況です」と同氏は述べています。

デグリッポ氏はさらに、「AIは脅威アクターの活動のあらゆる部分に浸透しています」と指摘し、大規模なマルウェア開発、作業の委任、ソーシャルエンジニアリング、ランサムウェアの身代金交渉などにも及んでいると付け加えました。

こうした状況を踏まえ、デグリッポ氏は脅威の状況が4つの領域で変化していると見ています。すなわち、AIが力を増幅させる存在になっていること、ID(アイデンティティ)が主要な侵害経路になっていること、攻撃者が「私たちのデジタル世界の根幹に組み込まれた」基盤ライブラリやソフトウェアサプライチェーンに深く入り込みつつあること、そして国家の支援を受けた脅威グループが企業システムの弱点についてより多くを学びつつあることです。

今後起こりうる事態に完全に備えられている組織は皆無であり、そうではないと考えるのは甘い見通しか、防御側として好ましくない姿勢だと同氏は述べています。「これは変革の時代であり、組織がこの変革をどう乗り越えるかが、多くの企業にとって成否の分かれ目になるでしょう」