出典：NicoElNino via Alamy Stock Photo
脅威アクターはエクスプロイト開発および攻撃オーケストレーションを含む、ますます巧妙な方法でAIツールを悪用しています。
Googleは本日、敵対者がサイバー作戦でAIをいかに活用しているかを追跡した新しい研究を公開しました。大規模言語モデル（LLM）ツールが広く利用可能になって以来、脅威アクターは技術をフィッシング餌の作成、マルウェアのコーディング、偵察実施など、幅広い方法で活用してきました。Googleが詳述したように、彼らはまた脆弱性研究およびエクスプロイト開発にもAIを使用しています。
この研究は、ディフェンダーがAnthropicのClaude Mythosモデル（および拡張的にはProject Glasswing）が今後数年間セキュリティエコシステムをどのように変えるかを検討する中で発表されました。Anthropicはythosが自然言語の指示を使用して重大なゼロデイ脆弱性を見つけることができると主張しています。
このレポートは脅威アクターがMythosのようなものを使用していることを主張していませんが、Googleの脅威インテリジェンスグループ（GTIG）は、攻撃者が今日AIを使用している最先端の方法のいくつかをカバーしています。
Mythos不要：AIで開発されたエクスプロイト
例えば、GTIGはAIで開発されたと考えられるゼロデイエクスプロイトを使用している脅威アクターを特定しました。その種類としておそらく初めてのものです。レポートによると、この脆弱性は「ユーザーが一般的なオープンソースのウェブベースのシステム管理ツールで二要素認証（2FA）をバイパスできるようにするPythonスクリプトに実装されています。」脆弱性を悪用するには、有効なユーザー認証情報が必要です。
脅威アクターが脆弱性を大規模に使用する計画を立てていたかもしれませんが（現在も）、GTIGは潜在的な脅威活動を阻害することを望んで、適切なベンダーにバグを開示しました。
「Geminiが使用されたとは考えていませんが、これらのエクスプロイトの構造と内容に基づいて、アクターがこの脆弱性の発見と兵器化をサポートするためにAIモデルを活用した可能性が高いと確信しています」とレポートに記載されています。「例えば、スクリプトには教育的なドキストリングが豊富に含まれており、ハルシネーションされたCVSSスコアが含まれており、LLMのトレーニングデータに極めて特徴的な構造化されたテキスト形式のPythonフォーマット（例：詳細なヘルプメニューと整頓された_C ANSIカラークラス）を使用しています。」
中国および北朝鮮に関連する脅威アクターは、脆弱性研究にLLMを使用することに特に関心を示しています。例えば、GTIGは疑われる中国アクターUNC2814がネットワークセキュリティ研究者の役割を引き受けてTP-Linkファームウェアなどの組み込みデバイスへの脆弱性研究を実施するようGeminiにプロンプトを送信するのを観察しています。このアクターはAIに対して「認証前リモートコード実行（RCE）脆弱性についての監査」を行っていることを伝えています。
北朝鮮アクターのSilent Chollima（APT45としても知られている）は「異なるCVEを再帰的に分析し、PoC（概念実証）エクスプロイトを検証する数千の反復プロンプトを送信する」ことが観察されています。これはGoogleによると、モデルが他の場合に持つであろうより堅牢なエクスプロイト機能を促進します。脅威アクターはまた、2010年から2016年の間に中国のバグバウンティプラットフォームWooYunによって収集された85,000以上の実世界の脆弱性ケースを含む「wooyun-legacy」として知られている専門的な脆弱性リポジトリでトレーニングを受けています。
脅威アクターはまた、脆弱性研究を支援するためのOpenClawおよびOneClawなどのエージェント型ツールを試験しています。
AI駆動の攻撃オーケストレーション
しかし、レポートで詳述された最も顕著なユースケースの1つは、「PromptSpy」として知られるマルウェアファミリーで説明されたように、攻撃の調整におけるAIの使用に関わるものです。これはAndroidバックドアで、ESETによって最初に詳述され、悪意のあるアプリが「最近使用したアプリ」リストに留まるようにGeminiにプロンプトを送信することで悪用しています。
GTIGの分析では、バックドアがAIを他の目的、主に「Androidユーザーインターフェイスのナビゲートと、後続のアクション用のリアルタイムユーザーアクティビティの自律的な解釈の中心」に使用していることがわかりました。例えば、バイオメトリックデータをキャプチャして認証ジェスチャーを再生し、侵害されたデバイスへのアクセスを再度取得できます。
さらに、脅威アクターはエージェント型ワークフローを使用して「マルチステージセキュリティタスクを実行するための自律的なフレームワークを運用化」しています。中国関連のアクターは日本の技術企業と東アジアのサイバーセキュリティプラットフォームに対する攻撃でエージェント型ツールを配置しました。HexstrikeやStrixなどのエージェント型ツールは攻撃対象領域全体に渡って永続性を維持し、脆弱性を自動化して検証するために使用されました。
「自律的な偵察と自動検証のこの組み合わせは、最小限の人間による監督で発見活動をスケーリングできるAI駆動のフレームワークへの移行を示唆しています」とGTIGは述べています。
わずかで限定的な場合ですが、脅威アクターが人間主導の作戦から、AIがより多くの制御を取る活動に移行するのを見ることは注目に値します。これはディフェンダースペースのAIの進行を反映しており、一部の組織は人間主導の思考から人間ループへの移行を進めています。ここでエージェントはAI主導の意思決定をするプライマリオーケストレーターであり、人間は必要な場合にのみ介入します。
GoogleのTheat Intelligence Groupの最高アナリストであるJohn Hultquistは、脅威アクターはすでにAIを利用して彼らの作戦の速度とスケールを強化しており、ディフェンダーは進化する必要があると述べています。さもなければ彼らは「人間の速度でマシンタイムの脅威に直面する」ことになります。
「ディフェンダーが防御にAIを組み込まなければ、彼らは最終的にアラートとインシデントの洪水に対処することになり、パッチサイクルより速く動作でき、迅速にネットワーク全体に横展開できる敵対者に対応するのに苦労するでしょう」とHultquistは述べています。
最新のDark Reading Confidentialポッドキャストをお見逃しなく、「USB侵入テストのストーリーがどのようにバイラルになったか」。20年前、Dark Readingはその最初の大ヒット作品を投稿しました。ペンテスターがリグされたThumbドライブをクレジットユニオンの駐車場に散らして、好奇心旺盛な従業員に残りを任せたというコラムです。このエピソードは、その著者であるSteve Stasiukonisとともに、歴史的な作品を振り返ります。今すぐ聞く！
翻訳元: https://www.darkreading.com/cloud-security/hackers-ai-exploit-dev-attack-automation
