大規模言語モデルはソフトウェア開発を劇的に変化させましたが、サイバー犯罪者もこうしたツールを悪意あるペイロードの作成に急速に取り入れつつあります。
OpenAIなどのベンダーやAnthropicが有害なリクエストをブロックする厳格なサイバーセーフティのガードレールを実装している一方で、他のモデルでは事情が異なります。
Check Point Researchによる最近の分析では、有害なプロンプトに対する拒否率が総じて低いDeepSeekのモデルが、脅威アクターに対し、ほとんど専門知識がなくても複雑でエンドツーエンドのマルウェアを生成できる手段を与えていることが明らかになりました。
研究者らは公開されているテレメトリの中からDeepSeekに起因するとみられる約3,000個のファイルを分析し、1,383個の悪意あるまたは危険なサンプルを特定しました。この中で、InfernoGrabberという名前の非常に異例なPython Flaskアプリケーションが発見されました。
このサンプルは、これまで実環境で確認されたことのない危険な手法を示していました。ブラウザ内で完結するランサムウェアです。
ユーザーにペイロードのダウンロードを求めたり、システムの脆弱性を悪用したりする従来型のマルウェアとは異なり、この脅威は正規のブラウザ機能を悪用することで、Webブラウザの中だけで完結して動作します。
この攻撃の中核をなすのは、File System Access APIです。これは写真編集ツールやクリエイティブ系ツールといったWebアプリケーション向けに設計された正規のブラウザ機能です。
このAPIは、許可が与えられると、Webサイトがローカルディレクトリ内のファイルを読み取り、書き込み、列挙できるようにします。
ブラウザのエンジニアたちは以前から、このAPIがランサムウェアに悪用される理論上のリスクを指摘してきましたが、今回DeepSeekが生成したサンプルは、この概念を実際に機能する攻撃チェーンへと変えてしまいました。
被害者は、Discordのアバターを対象としたAIアップスケーラーを装ったWebページに誘導されます。画像を処理するため、このサイトはユーザーに対しローカルフォルダへのファイルシステムアクセス許可を求めてきます。
ユーザーは、編集したファイルを保存するためにWebアプリケーションが許可を求めてくることに慣れているため、このソーシャルエンジニアリングの手口は自然に感じられ、警戒心が薄れてしまいます。
ユーザーが「許可」をクリックすると、この悪意あるページは選択されたフォルダ内のファイルを密かに読み取り、外部に持ち出したうえで暗号化します。そして最後に、ビットコインを要求する身代金要求メッセージを表示します。これらはすべて、デバイスにネイティブの実行ファイルを一切インストールすることなく行われます。
今回の発見が特に憂慮すべき点は、AIモデルが既存の知識をどのように結びつけて推論したかという点です。攻撃者はおそらく、オールインワンのマルウェアツールを求める大まかなプロンプトを送信したと見られます。
これに応じてDeepSeekは、キーロガーやスティーラーを寄せ集めたフランケンシュタインのような骨組みを幻覚(ハルシネーション)によって作り出しました。しかし重大なのは、この悪意ある意図を実在するFile System Access APIと巧妙に結びつけた点です。
これは、最先端のAIモデルがもはや既知の攻撃手法を強化するだけの存在ではなく、未熟な攻撃者が従来のエンドポイント保護をすり抜ける新たな攻撃ベクトルを発見し、実用化する手助けをするようになっていることを示していると、Check Pointは述べています。
このブラウザネイティブなランサムウェアの手法はChromiumベースのデスクトップブラウザに影響しますが、Androidユーザーにとっては特に深刻なリスクとなります。
SafariとFirefoxは同様のファイルピッカー機能を公開していません。しかし、最近のAndroid版Chromeのアップデートでは、Webアプリケーションが選択したフォルダを直接読み取り、変更できるようになっています。
翻訳元: https://cyberpress.org/ai-built-browser-ransomware-workflows/
