この1年で、大規模言語モデル（LLM）は研究者の好奇心の対象から、攻撃的セキュリティにおける実用的なツールへと変貌を遂げました。
最新の実験では、最先端モデルがエンドポイント検出・応答（EDR）製品の解析を高速化し、検出ロジックを抽出して、実用的な回避技術を生成できることが明らかになっています。
この変化は重大な意味を持ちます。防御側はもはや、ローカルのルールやシグネチャが秘匿性を保ち、自動化された精査に対して堅牢であると思い込むことはできません。
研究者たちが構築したのは、シンプルながら効果的なハーネスです。ローカルのプログラムファイルと逆アセンブラバックエンド（Binary Ninja）にアクセスできる、ループ型のLLMエージェントを用いました。
このエージェントはプログラムのバイナリとホストデータを繰り返し処理し、発見した内容をシンプルなMarkdown形式の状態ファイルに書き出します。エージェントを繰り返し再起動して以前の出力を読み込ませることで、単一実行のコンテキスト制限を克服し、より深い手がかりへと収束させることができます。
複雑なマルチエージェントのオーケストレーションは不要で、必要なのはLLM、逆アセンブリAPI、そして永続的なワークスペースファイルだけです。
このアプローチの大きな利点は再現性です。抽出後、検出をトリガーするはずのテスト入力を実行することで、ルールとモデルを検証します。
複数のケースで、研究者たちはPEファイルに無害なマーカーを付加したり、特定のreg saveコマンドを実行したりすることで、抽出したルールが期待どおりに発動することを確認しました。
これにより、自動化された抽出から検証済みの回避ガイダンスまでのループが完結します。迅速な情報漏えいリスクとして、レッドチームを支援するこれらの手法は、エンドポイントのルールコーパス、キー、モデルの挙動に関する情報の公開漏えいも加速させます。EDRベンダーと顧客は、ルールのダンプやスクリプト化された回避策がこれまで以上に急速に拡散する可能性に直面しています。
ローカルアーティファクトは弱点となります。静的なルール、キャッシュされたモデル、または埋め込まれたシークレットをエンドポイントに配布することで、オフライン攻撃のサーフェスが生まれます。抽出ロジックとキーがバイナリから復元できる場合、簡単な暗号化や難読化では対応できません。
検出は多層化が必要です。ホスト上の検出は依然として有効ですが、単独のコントロールとしてはもはや十分ではありません。テレメトリの集約、バックエンドの相関分析、ネットワーク制御、予防的な対策を組み合わせることで、特定製品のローカルルールへの依存を低減できます。
SpecterOpsは述べています。LLMによるリバースエンジニアリングは仮説上の話ではなく、ローカルのEDRロジックが暴露・悪用されるスピードを現実に加速させているとのことです。
これにより、ベンダーと防御側は、検出のどの部分をエンドポイント上に置くかを見直し、ローカルアーティファクトを強化し、多層的なテレメトリと予防措置への依存を高めることが求められています。
同時に、この能力はレッドチームにカバレッジを評価するためのより迅速かつ検証可能な手段を提供します。セキュリティの向上は現実的かつ最新のテストから始まるという事実を、改めて示すものです。
翻訳元: https://cyberpress.org/edr-evasion-via-llms/
