AI生成のパッチが攻撃者への「地図」に、変種解析で露呈する修正の不備

AIは脆弱性の発見を加速させ、パッチの作り方も一変させています。しかしAI支援による修正は不完全なことが多く、攻撃者にとっては変種解析の効果を高める結果になっています。

この夏、週間ダウンロード数100万件を誇るオープンソースのJavaScriptサンドボックスライブラリ「vm2」のメンテナーは、34件のサンドボックス脱出の脆弱性に対する修正を公開しました。そのうち19件の作成には、AnthropicのClaudeが共同で関わっています。数週間後、あるセキュリティ研究者がAIエージェントにこのうち1件のアドバイザリを読み込ませ、パッチを回避する方法を探すよう指示しました。エージェントは見事に回避策を見つけ出しました。

Rubrikのリードプロダクトセキュリティエンジニア、Shayaun Nejad氏は、サンフランシスコで開かれた[un]prompted AI security conferenceでの講演に備える中で、vm2のパッチに対して脆弱性の変種解析を実施しました。同氏が強調したかったのは、AIが発見する大量の脆弱性への対応に開発チームが直面した課題です。AI支援のパイプラインで修正したはずの同じバグが、その後の新たなテストで繰り返し見つかったといいます。

「モデルが進化するか、連鎖的な分析をより高度に使えるようになるまで、脆弱性の変種が見つからないことがありました」と同氏は語ります。「まったく同じ箇所で見つかることもあれば、関連する隣接箇所で見つかることもありました。変種解析は最近よく使われるようになっていますが、コンテキストを引き寄せる磁石のような存在でもあります」

AIの支援によってCVEの公開件数がかつてない水準に達するなか、ソフトウェア開発者は自社のプラットフォームが抱えやすい脆弱性の種類を事実上明らかにしており、こうした脆弱性のパッチは攻撃者にとって設計図になり得ると、Nejad氏は警告しています。過去の脆弱性をコンテキストとしてコードベースに与え、変種を探すようAIエージェントに指示するだけで済む場合もあるといいます。

Rubrikの経験は、ここ数カ月に他の研究者も指摘してきた、より広範な非対称性を反映しています。AIモデルは、脆弱性の発見やエクスプロイトの構築といった攻撃面では非常に優秀になりました。一方で、安全なコードや正しいパッチを書くといった防御面のスキルは遅れています。

同じく[un]promptedカンファレンスで、OpenAIのセキュリティ研究者Tim de Waal氏は、AIエージェントがネットワークアクセスポイントのファームウェアにある2件の脆弱性にパッチを当てた事例を紹介しました。1件目では、エージェントが元のコードにあったスタックカナリアを外したかたちで脆弱な関数を再構築し、防御機能を黙って取り除いていました。2件目では、生成されたパッチが攻撃者の入力から二重引用符を除去するものの、シングルクォートを使えば修正を回避できる点を見落としていました。

管理された研究でも、同じ問題が大規模に確認されています。1PasswordのOff-by-1 Labsの研究者は、複雑なオープンソースプロジェクトにある既知の6件の脆弱性について、AIエージェントに繰り返しパッチを生成させました。その結果、生成された6,080件のパッチ候補のうち約半数が、少なくとも1つの攻撃経路を塞げていませんでした。コードの別の箇所にある同じバグの同一パターンを、エージェントが見逃すこともありました。

さらに最近では、P2Patchというベンチマークテストで、研究者が2つのAIエージェントを対戦させました。一方は実在する101件の脆弱性に対するエクスプロイトを作成し、もう一方はそのエクスプロイトが機能しなくなるまでコードにパッチを当てます。その後、最初のエージェントがパッチ適用後のプログラムを再び攻撃し、同じ欠陥を引き起こす別の方法を探しました。101件中41件で成功し、その後のパッチに対して複数回成功した例もありました。

もちろん、人間が書いたパッチも完璧ではありません。セキュリティ企業のTrail of Bitsは、数年にわたるコンサルティング評価で見つかった2,265件の脆弱性について、開発者が提出した修正を検証しました。その結果、8件に1件が、報告された問題を完全には解決できていませんでした。

同社が記録した事例では、人間のメンテナーと、Patch the Planetイニシアチブの一環として動くAIエージェントが、freenginxウェブサーバにある同一のメモリ安全性バグに対して別々にパッチを書きました。ところが、どちらのパッチもリクエストのクリーンアップ時に同じクラッシュを引き起こしていました。

ニュースレター

CSOニュースレターでセキュリティ対策を万全に

最新の脅威、リスク、セキュリティ戦略に関する重要な情報で、企業を守りましょう

人手が追いつかず、AIによるパッチ適用に頼る組織

問題の本質は、AIが常に人間より質の低いパッチを書くということではありません(AIが書いたパッチの失敗率が高い可能性はありますが)。脆弱性の発見ペースが速くなりすぎて、人間だけでは対応しきれなくなっていることが背景にあります。加えて、AIエージェントの攻撃能力によって、攻撃者はパッチをマシンの速度で解析し、リバースエンジニアリングできるようになっています。

Anthropicは、Mythosを活用した脆弱性ハンティングプログラム「Glasswing」の開始から7カ月が経過し、同社の公開台帳には37,966件の発見が記録されています。脆弱性インテリジェンス企業VulnCheckの最近の分析によると、公開された7,349件の脆弱性のうち、修正済みはわずか217件でした。すべての発見が実際のセキュリティ脆弱性とは限りませんが、Anthropicは真陽性率を94.2%としています。修正数の少なさを踏まえると、メンテナーがトリアージして対処しなければならない報告の洪水が浮き彫りになります。

「かつては、新たな脆弱性をどれだけ速く見つけられるかが、ソフトウェアセキュリティの進展を左右していました」と、AnthropicはGlasswingの初回アップデートで述べています。「今は、AIが見つけた膨大な数の脆弱性を、どれだけ速く検証し、開示し、修正できるかが制約になっています」

これはオープンソースプロジェクトだけの問題ではありません。Bank of Americaは自社システムにAnthropicのモデルを投入した後、今年第2四半期に外部の契約社員1,000人を追加し、約3,000人の既存スタッフに加えてパッチ適用作業にあたらせました。CEOのBrian Moynihan氏がCNBCに語ったところでは、10月時点でも作業は続いています。

Metaでは7月までに、重大な脆弱性の40%についてAIで修正を書くようになり、そのパッチの半数近くが変更なしで本番環境に反映されました。それでも、脆弱性にさらされる期間は短縮されなかったと、MetaのソフトウェアエンジニアDavid Molnar氏は[un]promptedの別のセッションで述べました。AIが提案したパッチは依然として人間によるレビューが必要な一方、新規コードの量は前年比で100%超増加し、その80%以上がAIコーディングエージェントによるものだからです。

「誰もがレビュー待ちの山に溺れています」とMolnar氏は話します。同氏のチームは社内のディレクターやプロダクトマネージャーと協力し、レビュー工程も含めて自動化できる領域を広げ、ヒューマン・イン・ザ・ループからヒューマン・オン・ザ・ループへの移行を進めているといいます。

「AIより上流のあらゆる工程を自動化しても、その先にいる気の毒な人間たちに負荷が集中するだけです」と同氏は言います。「だからこそ、パイプライン全体を見渡して、すべてを自動化する必要があります」

Forum of Incident Response and Security Teams(FIRST)は6月、今年のCVE割り当て件数を約66,000件と予測しました。年末まで2カ月を残す現時点で、その数はすでに100,000件に迫っています。Microsoftの10月のパッチチューズデーだけで1,415件の脆弱性に対処しており、2025年10月の180件から大幅に増えました。

クローズドソースのパッチもAI解析から逃れられない

AIエージェントがコードリポジトリを調べて脆弱性の変種を探しているなら、パッチが通常コンパイル済みバイナリの中にあるクローズドソースのソフトウェアのほうが安全だと考える人もいるかもしれません。しかし、そうとは限りません。AIモデルはリバースエンジニアリングにも長けるようになり、複雑な独自製品のオープンソース版を作るために使う人もいます。Adobe Photoshopの例もあります。

6月、Anthropicの研究者がAI支援のパッチ差分解析で攻撃者に何ができるかを検証した際には、モデルにパッチ公開日に公開されている情報以外は与えませんでした。それでもモデルは、Firefoxの修正が公開されてから1時間以内に動作するエクスプロイトを生成しました。Windowsでは、脆弱なバイナリとパッチ適用後のバイナリ、それに逆コンパイルの出力を与えたところ、同じ手法で21件のカーネル脆弱性から8つの完全な権限昇格チェーンを構築しました。コストは1つあたり約2,000ドルです。

「ある意味では、Nデイのほうが(ゼロデイと比べて)危険です。パッチそのものがバグへのロードマップになるからです」と、Anthropicの研究者は当時述べています。

中国・上海の復旦大学の研究チームは、LLMを活用したバイナリ差分解析フレームワークを構築し、25ベンダー・62のクローズドソースアプリケーションにおける最近のパッチ76件を分析しました。今月公開された論文によると、このフレームワークは63件のパッチを不完全と判定し、そのうち56件を手作業で確認しました。さらに26件は回避されて新たな脆弱性につながり得る状態で、結果として19件のCVE割り当てと28,100ドルのバグ報奨金を獲得しました。

脆弱なビルドとパッチ適用後のビルドを比較して変更箇所を特定する手法は、セキュリティ研究者にとって長年の定番です。AIによって変わったのは、その速さと、必要なスキルの低さです。最新のフロンティアAIモデルには、リバースエンジニアリングやバイナリ差分解析を難しくするAPIガードレールがあるかもしれません。それでも、オープンウェイトモデルが十分な能力を備えるようになっています。

Microsoftのセキュリティ研究担当バイスプレジデントであるTaesoo Kim氏も、[un]promptedカンファレンスで、AIがバイナリ差分解析とエクスプロイト作成に必要な時間を劇的に短縮したと警告しました。そのうえで、MicrosoftもCVEの公開には細心の注意を払い、顧客へのアップデート配信を迅速に進める必要があると指摘しています。

最近のフロンティアモデルは、ガードレールの強化によってこうしたバイナリ解析を拒否するようになっています。しかし、多くの人がQwen、Kimi、GLMなどのオープンウェイトモデルを代わりに使っています。「非常に高性能だからです」と同氏は述べました。

パッチギャップの悪用は容易に

先月、Microsoft Edgeのセキュリティチームは、攻撃者が「時間差」を突く動きを強めていると警告しました。あるプロジェクトのコードコミットやテストリリースで脆弱性の可能性に関する情報が出てから、パッチが他のプロジェクトに行き渡るまでの間に生じるギャップです。同チームの報告には、Google ChromeやMicrosoft Edgeなどのベースとなるオープンソースブラウザ「Chromium」のビルドで明らかになったセキュリティ修正が、下流のブラウザに取り込まれる前に攻撃者に悪用された例が含まれています。

「これがパッチギャップの悪用です」と、Edgeチームは述べています。「手法自体は新しくありませんが、必要とされる速度と専門知識が変わりつつあります。AI支援の解析とエクスプロイト開発によって、かつては数週間かかった作業が数時間に圧縮され、いずれかの露出期間が続いているうちに実用的なエクスプロイトが現れる可能性が高まります」

Epoch AIの研究者は最近、GLM 5.3を使って未熟な攻撃者を模倣し、Firefoxのパッチギャップを狙いました。API利用料は約1,000ドル、1ターゲットあたりの作業時間は最短12時間で、9月17日から10月26日までに出荷されたFirefoxのすべてのリリースを侵害しています。「どのプロバイダーのセーフガードや拒否も発動しませんでした」と、研究者は記しています。

これを受けてMozillaチームは、パッチギャップの悪用を防ぐため、いくつかの対策を講じることにしました。たとえば、セキュリティ修正に関連する回帰テストを公開しない方針に切り替えます。

「回帰テストがない場合、GLM 5.3によるパッチギャップ攻撃の効果は大きく下がることがわかったため、修正の出荷後まで非公開とする運用を復活させました」と、FirefoxのCTOであるBobby Holley氏は書いています。

必要なのは情報公開の縮小ではなく、より丁寧なパッチ適用

セキュリティ企業のTerraは、先月公表した「PatchSlop」と題する報告書で、オープンソースプロジェクトにおける不完全または不具合のある修正の割合が、今年8倍に増加したことを明らかにしました。

「報告された入力だけを塞ぐパッチは、根本のコードに問題が残っていても、バグが解消されたかのような印象を与えかねません」と、同社の研究者は指摘します。「それは攻撃者にとっての地図として機能し、脆弱なコードと、防御側がバグをどう捉えていたかの両方を示してしまいます。差分のすぐ外側、つまり別のエンコーディング、別のアドレス範囲、同じ関数への別の経路を調べるのは、バグ探しの中で最も安上がりな手法の1つです。攻撃者の労力とAIトークンのうち、まさにこの作業に費やされる割合が増えていると、私たちは考えています」

答えは、オープンソースプロジェクトやソフトウェア企業が脆弱性の詳細を隠し、セキュリティアドバイザリの公開をやめることではなく、より良いパッチを作ることです。AIエージェントの支援でパッチ適用を自動化する場合でも、それは可能だと考える研究者もいます。

Rubrikの場合は、修正済みとしたバグが何度も再発することに気づいた後、Nejad氏のチームが独自の変種探索ステップを追加しました。このステップは、修正の開発後にパイプライン内で自動的に実行されます。同社は、単純なバグはAIによるパッチ適用に振り分け、認証バイパスのような複雑な脆弱性は人間のエンジニアに任せるようにしました。

「確かに攻撃者も同じコンテキストを持っていますが、こちらが先にそのコンテキストを手にして、行動を起こせます」とNejad氏は語りました。

今月のブログ記事でOpenAIは、同社のLinux脆弱性調査・パッチ適用パイプラインでは、反復的なテストと変種解析が必要だったと述べています。最初のパッチが「同じ脆弱性の変種がないか関連コードを調べておらず、不完全なパッチになった」ためです。

「人間とAIが作成したパッチを、モデルを使って敵対的にレビューすることをお勧めします。パッチが回避可能であること、他の攻撃経路や変種を見落としていることなどを特定できます」と、同社の研究者は述べています。

Open Source Security FoundationのAI支援パッチ適用ガイダンスも、「新しい発見エージェントに、攻撃者としてパッチを調べさせる」ことを推奨しています。Trail of Bitsはエージェントスキルを公開しており、パッチを提出する前に、バグの根本原因に基づく少なくとも1つの異なる変種をテストすることを求めています。

「脆弱性にパッチを当てる際には、これまで以上の慎重さと厳密さが必要なのは明らかです」と、TerraのCEOであるShahar Peled氏はCSOの取材に語りました。「そのためには、あらゆる欠陥の根本原因を突き止め、コードベース全体で類似のバグを探し、システムを再テストして、パッチ自体が新たな脆弱性を生まないことを確認する必要があります」

翻訳元: https://www.csoonline.com/article/4248687/ai-written-patches-are-becoming-attack-maps-for-hackers.html

本記事は csoonline.com の記事を翻訳・要約したものです。