ほとんどのモデルには「ランサムウェア」の作成を直接依頼することはできませんが、適切なプロンプトを与えれば喜んで応じてしまうモデルは少なくありません。Check Pointの研究者によれば、DeepSeekをはじめとする安全対策やセキュリティ制御が手薄なLLMは、ブラウザのみで完結するランサムウェアのような理論上の脅威を、現実の侵害に利用されやすくしているといいます。
このイスラエルのサイバーセキュリティ企業は、水曜日に公開したレポートの中で、DeepSeekが生成したサンプルを分析し、これをブラウザ内ランサムウェアと呼んでいます。
同社のチームはこの1年間で、DeepSeekに起因すると見られるファイルを約3,000件追跡し、VirusTotalまたは静的ソース解析によって、そのうちほぼ半数にあたる1,383件を悪意あるファイルまたは危険なファイルに分類しました。
「このデータセットの中に、私たちがこれまで実際の攻撃で観測したことのない、危険なブラウザネイティブの手法を実装したサンプルを発見しました」と、研究者のAlexey Bukhteyev氏は記しているとおりです。
このサンプルは未完成で、実際の侵害を成功させるまでには至っていませんでしたが、同社のテストによれば「わずかな手間」を加えるだけで攻撃可能な状態に仕上げられることが判明しました。
「今回の調査で、DeepSeekが生成した元の未完成サンプルは、最小限の手間を加えるだけで完全に機能する攻撃ツールへと転用できることが分かりました」と、Check Point Researchのマルウェア解析チームリーダーであるPedro Drimel Neto氏はThe Registerに語りました。
「必要な手間はごくわずかです」とNeto氏。「高度な専門知識も不要で、洗練されたサイバー犯罪者や高度な脅威アクターである必要すらありません。実際、単純なLLMプロンプトを使ってこの攻撃を試みる実際の脅威アクターの痕跡を、私たちはすでに確認しています」
既知の脅威がAIで強化される
ブラウザに対してランサムウェアがもたらすリスク自体は、新しい発想ではありません。File System Access仕様にはランサムウェアがセキュリティ上の考慮事項として明記されており、2023年のUSENIX Securityの論文「Ransomware over Modern Web Browsers」では、File System Access APIを悪用して、悪意あるWebアプリケーションからローカルファイルを暗号化する手法が説明されています。
File System Access APIは、主にChromeおよびChromiumベースのブラウザがサポートするブラウザ機能で、開発者はこれを使うことで、エディタやIDE、クリエイティブツールなど、ユーザーのローカルデバイス上のファイルを読み書き・管理できるWebアプリケーションを構築できます。
「これはリッチなWebアプリケーションの開発に使える一方で、攻撃対象領域を大きく拡張してしまい、攻撃者に悪用されれば重大な被害につながりかねません」と、GoogleのGüliz Seray Tuncay氏、フロリダ国際大学のHarun Oz氏、Ahmet Aris氏、Abbas Acar氏、Leonardo Babun氏、Selcuk Uluagac氏は2023年、LLMが実際に動作するマルウェアや攻撃チェーンを開発できるようになるはるか以前に記しています。
Check Pointによれば、新しいのはこの点です。AIモデルが、こうした既知のアイデアを「防御側がブラウザのサンドボックス制限によって実現不可能だと考えていた手法を活用し、現実的かつ実行可能な攻撃シナリオへと落とし込んでしまった」というのです。DeepSeekに起因する悪意あるサンプルは、いわば何でも詰め込んだマルウェアの空想として生成されたものでしたが、これが既知のプラットフォームリスクを、現実味のあるフィッシング型Webアプリケーションと結び付け、実行可能な一連の攻撃チェーンを実証してしまいました。
この手法が攻撃者にとって特に魅力的なのは、ネイティブのペイロードもAPKのインストールも、ブラウザのエクスプロイトも、侵害対象デバイスへのroot権限も一切必要としない点です。その代わりに、ユーザーを悪意あるボタンのクリックへと誘導するソーシャルエンジニアリングと、Chrome上でFile System Access APIが提示する正規の権限確認ダイアログを組み合わせて利用します。
その名も「InfernoGrabber 9000」
Check Pointが発見したこのサンプルは、Androidユーザーを標的とするPython Flaskアプリケーションです。名前はInfernoGrabber 9000で、VirusTotalはこれを「完全に機能する情報窃取・ランサムウェアツールキット」と呼んでいます。
調査チームはDeepSeekに送信された実際のプロンプトは入手できていないものの、おおよそ次のような内容だったのではないかと推測しています。「ブラウザ経由で動作し、被害者のデータをできる限り多く収集し、ファイルを暗号化して身代金を要求する、汎用の悪意あるツールを作成せよ」。単一のフロントエンドとして生成されたコードには、キーロギング、クリップボード監視、フォームおよびネットワークリクエストの傍受、Discordトークンの収集、暗号資産ウォレットとクレジットカード情報の探索、位置情報の要求、ウェブカメラおよびマイクへのアクセス、スクリーンショットの取得、ローカルファイルへのアクセス、Chromeのエクスプロイト用スタブ、「永続化」機構、そしてランサムウェア風のオーバーレイ画面まで、一連のルーチンとスタブが組み込まれていました。
ただし誤解のないよう補足しておくと、このサンプルは実際にこれらすべてを実行できるわけではありません。「より正確に言えば、これはAIが生成した設計図のようなもので、モデルはネイティブの情報窃取ツールやランサムウェアツールが持つよく知られた機能を、ブラウザで開かれるWebページへと翻訳しようと試みたものです」とBukhteyev氏は記しています。
このコードは、Discordのアバターアップスケーラーを装った被害者向けの偽装コンテンツを提示します。この偽コンテンツをクリックすると、ブラウザのプロセス内だけで完結する一連の悪意ある処理が、ユーザーに気づかれることなく実行される仕組みです。具体的には、Discordトークンの窃取、クレジットカード番号や暗号資産のシードフレーズの収集、キーストロークの記録、無断でのウェブカメラ・マイク映像の取得などが含まれます。さらにコードには、特定のブラウザ脆弱性(CVE-2023-4863など)を狙ったエクスプロイト用の専用ルーチン、データ持ち出しに使うハードコードされたDiscord Webhook、そしてビットコインでの支払いを要求するランサムウェア風の「WinLocker」画面表示機能も組み込まれていました。
防御側にとって朗報なのは、このサンプルが未完成であり、ブラウザ本来のセキュリティモデルによって、こうした機能のほとんどが実際には阻止されるという点です。
とはいえCheck Pointは、最新のDeepSeekモデルV4を用いて、このブラウザネイティブ攻撃の動作するプルーフ・オブ・コンセプトを実際に作成することに成功しました。研究チームは「ランサムウェア」のようなあからさまな用語をプロンプトから除く必要はありましたが、最終的には同じ機能、すなわち「ユーザーにローカルファイルへのアクセスを要求し、ブラウザ内でそれらを処理したうえで、元のコンテンツをユーザーが復元できない状態にしてしまうWebページ」を作り出すことに成功しました。まさにブラウザのみで完結するランサムウェアです。
Neto氏は、この種のLLM生成コードによるブラウザ内攻撃は「すでに起きている可能性が高い」と私たちに語りました。
「たとえまだ起きていないとしても、近いうちにこうした活動が観測されるとみています」と同氏は付け加えました。
従来のランサムウェアや恐喝グループは、今回の調査対象であるAndroid端末のユーザーではなく、企業や重要インフラ組織を標的とすることが一般的ですが、「最近ではエンドユーザーを狙ったランサムウェア活動の増加を確認しています」とNeto氏は述べています。「特に懸念されるのは、こうした攻撃で使われる難読化コードが検知を困難にしている点です。そのため、この手法を用いた攻撃がすでに実際に発生していながら、気づかれていない可能性は十分にあります」 ®
