新たな概念実証（PoC）において、エンドポイントセキュリティプロバイダーのMorphisecは、脆弱性エクスプロイトを評価するために最も広く利用されているフレームワークの一つであるExploit Prediction Scoring System（EPSS）自体が、AIを用いた敵対的攻撃に対して脆弱であり得ることを示しました。
Morphisecの脅威リサーチャーであるIdo Ikarは、12月18日にブログ投稿で調査結果を公開しました。
彼は、脆弱性の特徴に対する微妙な変更がEPSSモデルの予測をどのように変え得るかを実演し、サイバーセキュリティへの影響について議論しました。
EPSSモデルの背景
EPSSモデルは、非営利団体であるForum of Incident Response and Security Teams（FIRST）内の特別関心グループによって開発され、2020年4月に公開されました。 このグループには、脆弱性の優先順位付けの改善に向けて協力する研究者、実務家、学術関係者、政府関係者が含まれていました。
MorphisecのIkarが「画期的なモデル」と評するEPSSは、ソフトウェアの脆弱性が実環境で悪用されている確率を評価するために組織が利用できるフレームワークです。
これにより、組織は悪用リスクが最も高いものを優先し、最も重要な箇所にリソースを配分できるようになります。
EPSSは、各Common Vulnerabilities and Exposures（CVE）エントリのさまざまな側面を捉える1477個の特徴量のセットを用いて悪用活動を予測します。これらの特徴量はXGBoostと呼ばれる機械学習モデルに入力され、悪用確率の予測に使用されます。
続きを読む：脆弱性の迷路を進む：CVE、CWE、CVSSを理解する
敵対的攻撃によるEPSS出力の操作
Ikarの概念実証の目的は、選択した脆弱性についてEPSSを使用した際に出力される確率推定値を操作することでした。
敵対的攻撃を実行するために、Ikarはこの脆弱性に関する確率指標を人為的に水増しし、モデルの出力を操作しました。彼は、EPSSモデルが依拠する2つの特定のデータカテゴリ、すなわちソーシャルメディアでの言及と公開コードの入手可能性を標的に選びました。
彼はこの手法を、IBM WebSphere MQ 8.0の古い脆弱性（CVE-2017-1235）でテストしました。
「攻撃前、CVE-2017-1235のEPSSは悪用確率の予測値が0.1であり、評価対象となったすべての脆弱性の中で潜在的な悪用可能性は41パーセンタイルに位置していました」とIkarは述べました。「この比較的低いスコアは、EPSSモデルによれば、既存の活動指標に基づく限り、悪用の優先度が高い標的ではないことを示唆していました。」
CVE-2017-1235 before the adversarial attack manipulation. Source: Morphisec"/>彼はまた、GitHub上にエクスプロイトコードが存在せず、Xでの言及も最小限である脆弱性を選んだと述べました。
「これにより、これらのシグナルを人為的に増加させた場合の影響をより適切に評価できました」と彼は説明しました。
まずIkarは、ChatGPTを使ってCVE-2017-1235について議論するランダムなツイートを生成しました。これらのツイートは、脆弱性に関する本物の言及を模倣し、EPSSにおけるソーシャルメディア活動スコアを高めることを意図していました。
次に、彼は「CVE-2017-1235_exploit」というラベルのGitHubリポジトリを作成し、実際のエクスプロイト機能を持たない、単純で空のPythonファイルを含めました。
生成したソーシャルメディア投稿による人為的な活動の注入と、プレースホルダーのエクスプロイトリポジトリの作成の後、EPSSモデルが予測する悪用確率は0.1から0.14へと上昇しました。さらに、脆弱性のパーセンタイル順位は41パーセンタイルから51パーセンタイルへと上がり、認識される脅威レベルの中央値を上回る位置に押し上げられました。
CVE-2017-1235 after the adversarial attack manipulation. Source: Morphisec"/>EPSS単独では攻撃に脆弱
Ikarは次のようにコメントしました。「この結果は、EPSSモデル自体に潜在的な脆弱性があることを浮き彫りにしています。モデルはソーシャルメディアでの言及や公開リポジトリといった外部シグナルに依存しているため、操作の影響を受けやすくなり得ます。攻撃者は、特定のCVEの活動指標を人為的に水増しすることでこれを悪用し、EPSSスコアに基づいて脆弱性管理の優先順位付けを行う組織を誤った方向へ導く可能性があります。」
ただし、これはあくまで概念実証に過ぎず、さらなる検証が必要だとも述べました。「これらの変更が時間の経過とともにどれほど堅牢であるのか、あるいはそのような人為的パターンを検出するための追加のモデル保護策を実装できるのかは、今後明らかになるでしょう」と彼は付け加えました。
それでも研究者は、この成功した実験が、EPSSを使用する際に確率スコアを継続的に監視し、EPSSの利用を他の指標やリスク評価手順で補完することで、組織が能動的なアプローチを採用するきっかけになるべきだと考えています。
「これらのスコアに大きな変化があった場合は、その根本的な理由を理解し、その変化が正当なものなのか、あるいは操作された可能性があるのかを評価するために、より深い調査を促すべきです。複数のデータポイントに依拠し、モデル出力を相互参照することで、より包括的で堅牢な意思決定プロセスが確保されます」と彼は結論付けました。
この実験はまた、すべての機械学習およびAIモデルが脆弱になり得ることも浮き彫りにしました。
翻訳元: https://www.infosecurity-magazine.com/news/epss-exposed-to-adversarial-attack/
