「偽のPoC」とAIスロップが防御側の足を引っ張る

出典：Shutterstock（tadamichi）

Webアプリケーション向けのReactユーザーインターフェースライブラリに存在する重大な脆弱性を狙った悪用の試みが急増している。中にはWebアプリケーションファイアウォール（WAF）のルールを回避できるものもあれば、動作しないAIスロップもある。

人工知能は、防御側にとっての「汚染」問題をさらに悪化させる――とりわけ、スロップが概念実証（PoC）エクスプロイトとして提示される場合だ、とサイバーセキュリティの専門家は言う。クラウドセキュリティ企業Radwareで脅威インテリジェンス担当ディレクターを務めるPascal Geenens氏によれば、「偽の」PoC――最近のものの中にはAIツールで生成されたと確認されたものもある――は開発者を誤った方向へ導きかねないという。 

例えば、あるPoCサンプルは、動作させるために脆弱で、かつデフォルトではないコンポーネントのインストールを必要としていた。開発者は、根本原因であるデシリアライズの欠陥にパッチを当てるのではなく、それらのコンポーネントをブロックするだけでアプリケーションは安全だと誤って結論づけてしまう可能性がある、とGeenens氏は言う。

「このケースの問題は、（防御側が）『スキャンしたけど全部陰性だった。だから問題ない』と言ってしまうかもしれないことです」と彼は言う。「悪いPoCがあることには複数の影響があります。特に可視性が非常に高い場合はなおさらです。人々はそれを基にスキャナーを作り始め、信頼し始め、そして自分たちの環境をチェックして『ああ、でも自分は脆弱じゃない』と言うのです」

React2Shell脆弱性は、AI生成コードやバイブコーディングが普及して以降に生じた問題の中でも最も重大なものかもしれず、エクスプロイトを見つけるための大規模な研究努力を促している。開発者はAI生成コードへの依存を強めており、サイバーセキュリティ研究者やコーダーも例外ではない。 

React2Shell脆弱性の重大性は、最も深刻なCommon Vulnerability Scoring System（CVSS）スコアである10.0を持つことからも明らかで、このセキュリティ問題のPoCを探し求めるセキュリティ研究者が多数現れる結果となった。サイバーセキュリティ企業Trend Microは、React2Shell問題に関する公開エクスプロイトを約145件特定し、汚染問題を指摘したうえで、攻撃を名乗るものの大半が実際には脆弱性を発火させられていなかったと述べている。

この問題について、明らかにAI生成と思われるエクスプロイトを急いで公開する動きが、脆弱なシステムの特定に混乱と遅延をもたらしていると、自治型パッチ適用プラットフォームRoot.ioの共同創業者兼CEOであるIan Riopel氏は言う。

「AIは、エクスプロイトのように見えるものを作るためのハードルを劇的に下げます。つまり、エコシステムに入ってくるノイズが増えるということです」と彼は言い、さらにこう付け加える。「シグナル対ノイズ比は明らかに悪化していますが、もともと壊れていたシステムをさらに悪化させているのです」 

オープンソース研究への痛手

この脆弱性を特定したサイバーセキュリティ研究者は、動作しないコードを公開した“研究者もどき”を批判した。無効なPoCコードが、防御側が参照として用いることの多い一部の公開資料の参考文献セクションに含まれていたと、React2Shell脆弱性を発見したLachlan Davidson氏は述べた。

「開発者が危険な機能をクライアントに明示的に公開していることを前提とするものは、妥当なPoCではありません」とDavidson氏は自身の元の脆弱性レポートの更新で述べた。同氏は、サイバーセキュリティ情報のアグリゲーターは今後より良くしなければならないと警告した。 「これらが、サービスが脆弱かどうかを評価する際の偽陰性につながったり、本物のPoCが出てきた場合に備えが不十分になったりすることを懸念しています」

しかし、より大きな危険は、単に自分たちのシステムが脆弱ではないと結論づけてしまうことだけではない。PoCが自社システムで脆弱性を発火させないなら、パッチ適用までの猶予があると考えてしまうことだと、Root.ioのRiopel氏は言う。リスク管理がまだ必要であるにもかかわらず、セキュリティチームは脆弱性がトリアージ済みだと信じてしまうという。

「動かないPoCは、悪用が難しい、あるいは理論上のものだという印象を与え、（その結果）セキュリティチームは優先度を下げ、別の火消しに移ってしまいます」と彼は言う。「その間に、意欲的な攻撃者は、公開PoCを壊していた欠陥をすでに反復改善して乗り越えています」

実際、中国と関係する脅威グループは、元のアドバイザリが公開されてから数時間以内にReactの問題への攻撃を開始したと、Amazon Web ServicesのCISOであるCJ Moses氏は述べている。

パッチ適用ギャップを埋める

十分な検証（デューデリジェンス）を行わない可能性のある研究者がエクスプロイトを公開すると、セキュリティチームや脅威インテリジェンス研究者が、動作しないエクスプロイトや、特定の不安全なエッジケースでしか動かないエクスプロイトの評価に時間を浪費することになりかねないと、サイバー保険会社Coalitionで引受セキュリティ担当バイスプレジデントを務め、契約者リスクを高めるトレンドを評価しているJoe Toomey氏は言う。研究者が誤解していた可能性もあるが、より可能性が高いのは、エクスプロイトを巡るオンライン上の議論を追い、実際の欠陥を突いていないことを学べたはずだ、と同氏は言う。

「それは間違いなく、目の前にある重要で時間に敏感な作業から注意をそらします」と彼は言い、さらにこう付け加える。「今後、注目度の高い脆弱性でもこのパターンが繰り返されると予想しますし、コミュニティもこの傾向を認識した今、そうなったときにはより注意深くなるでしょう」

それでも、汚染の問題は改善する前に悪化するだろう。「セキュリティコミュニティがバイブコーディングやコード生成器に反発しているとはいえ、誤射は多くなると思います」とRadwareのGeenens氏は言う。セキュリティチームにかかるプレッシャーを考えると、動作して脆弱性を発火させたように見える手早いPoCを見つけることは、あまりに魅力的で無視できない、と同氏は言う。

「それを利用してスピードを上げようとする人は、まだいると思います」と彼は言う。「企業は、間違いなくAIに依存するようになるでしょう」

だからこそ、企業は開発チームと、開発プロセスにおける構造的な問題の修正に注力することについて話し合う必要があると、RootのRiopel氏は言う。

「問題は、AIが悪いエクスプロイトを生み出しているかどうかではありません。 敵対者が武器化するよりも速く、私たちが本物の脆弱性を修正できるかどうかです」と彼は言う。「組織の96%にとって、今日の正直な答えはノーです」

組織は毎月数千件の脆弱性を検出するかもしれないが、現時点で修正できるのは数十件にすぎないと、Riopel氏は言う。最近のRoot.ioの調査では、平均的な開発チームが、脆弱性のトリアージ、ソフトウェアのパッチ適用、結果のテストに、月あたりフルタイムのソフトウェアエンジニア1.31人分の時間を費やす必要があることが分かった。従業員が5,000人を超える企業では、その相当はフルタイム換算で約1.8人に近い。

本当のギャップは、検出とパッチ適用の間にあるものだと、Riopel氏は言う。

「埋めるべきギャップはそこです――そして、それはPoCの品質を議論しても埋まりません」と彼は言う。「検出と同じスピードで修復が回るようになったときに、初めて埋まるのです」