国家の支援を受けるものを含め、著名な脅威アクターの一部が、人工知能（AI）を使ったサイバー攻撃キャンペーンの構築を諦めつつあります。「AIがサイバー脅威を『強化』している」という見方は、サイバーセキュリティ製品のマーケティングやニュースの見出し、LinkedInレベルのソートリーダーシップには格好のネタとなっているにもかかわらず、です。
今週も、主流メディアが、自己申告に基づくアンケート調査のデータを元にした話題を取り上げました。この調査では、ランサムウェア攻撃の約84%が何らかの形でAIを利用しているとされました。一見すると恐ろしい数字です。しかし、今週Dark Readingに共有されたブリーフィングで、Proofpointは「TA4903」に注目しました。かつては高度な手口を使っていたサイバー犯罪グループですが、AIによる劣化が目立つ状態にあります。
こうした現象について解説するのが、Proofpointの主任脅威リサーチャーであるSelena Larson氏です。同氏は、AIは実際には多くのサイバー活動を「お粗末」にしており、最も優秀な脅威アクターはAIそのものを遠ざけていると指摘します。
「印象的な成果を見つけなければというプレッシャーが強くありますが、AIが脅威アクターを強化しているという論調には強く異を唱えたいです。実際はそうではありません」と、同氏はDark Readingに語りました。「AIが生成した攻撃チェーンのせいで、脅威アクターの［仕事ぶりが］かえって悪化している様子を、私たちはリアルタイムで目の当たりにしています」
サイバー脅威の世界に広がるAI劣化
ハッカーがAIを使えば、被害者の調査、大規模なサイバー攻撃の展開、文法的に正しいフィッシングメッセージの作成、さらには「スクリプトキディ」を有能に見せかけることまで可能になります。この有用性は以前から証明されています。ただし、それはAIによる攻撃の質とは別の話です。Proofpointが追跡する多くのグループについて、Larson氏は「脅威アクターはAIを使ってノイズを増やしているものの、その分、洗練度は落ちています」と報告しています。
認証情報フィッシングとビジネスメール詐欺（BEC）を専門とする、活動5年目のTA4903を例に挙げてみましょう。「以前はかなり優秀でした。米国政府を装い、非常に手の込んだフィッシングPDFを使っていました。QRコードもランディングページも実によくできていて、非常に効果的でした」とLarson氏は話します。
ところが3月以降、TA4903は攻撃チェーンのあらゆる工程にAIを使うようになりました。ソーシャルエンジニアリングの誘い文句、ターゲティング、認証情報の窃取などです。多くの人が恐れ（そしてブログで取り上げ）てきた、まさにそのような事態です。しかし、その結果は、こうした見方を早々に打ち砕くものでした。
「この6カ月で、彼らはバイブコーディングに手を出し、独自のフィッシングキットを作ろうとしていますが、あちこちを無防備なままさらしています」とLarson氏は説明します。「研究者は今や、彼らが何をしているのか、インフラがどこにあるのか、次の標的が誰になりそうかを確認できます」。Proofpointによると、具体的にはTA4903は、バイブコーディングで作ったコントロールパネル、Cloudflareのデプロイ環境、リンクや誘い文句の作成機能、盗んだ認証情報などを露出させていました。
TA4903のフィッシングの誘い文句も質が落ちています。メール内で表示されないQRコードを被害者に送り付けたり、手の込んだPDFを完全に空のメールに添付したり、実在の組織をかたるメールでAIが自動生成したデフォルトの内容を差し替えないまま送信したりしています。
自ら恥をさらす国家支援型APT
サイバー犯罪のビジネスモデルはコストを下げて量を増やすことを前提としているため、一部のグループが質を犠牲にして量を取るのは理にかなっています。しかし注目すべきは、国家の資金で動く著名な高度な持続的脅威（APT）の一部も、同じことを試みている点です。
たとえば今週、Genians の研究者らは、ウクライナを標的にした北朝鮮のKimsukyグループによるものとされるキャンペーンについて、レポートを公開しました。Kimsukyは、AIエージェントや大規模言語モデル（LLM）基盤を使い、スピアフィッシングの文面生成を自動化するとともに、コードも作成していると指摘されています。
結果は惨憺たるものでした。誘い込みのメールでは、ウクライナ、韓国、日本の標的が混同されていました。文体も、フォーマルとカジュアル、男性と女性の文法の間を行き来していました。内容は添付されたおとり文書と一致せず、Google Meetの招待状にはZoomのリンクが含まれていました。Kimsukyのマルウェアにも、論理エラーや雑なコード難読化、欠落した部品が見られました。
同様に3月には、BitdefenderがパキスタンのAPT36（別名Transparent Tribe）に起きた大きな変化を報告しました。APT36は、既製のマルウェアから「ヴァイブウェア」へと移行していました。これは、悪意ある機能ごとにその都度生み出せる、使い捨てのポリグロットファイルです。
ヴァイブウェアには確かな利点がありました。まず、生成が非常に容易なため、APT36は大量のガラクタ同然のマルウェアで被害者を圧倒できます。インプラントを1つや2つ駆除したところで、ほとんど影響はありません。しかし、データを持ち出せないAI生成のGo言語製スティーラーや、意図どおりに動作しないボット管理システムを展開して、どれほど役に立つのでしょうか。サイバー研究者は、あまり役に立たないと見ています。
AIサイバー脅威への過熱ぶりを冷静に見直す
「実際に見えてきたのは、本当に高度なグループほど、現時点ではAIの導入に非常に慎重だということです」と、BitdefenderのテクニカルソリューションディレクターであるMartin Zugec氏は言います。
特にサイバースパイ活動については、次のように語ります。「サイバースパイ活動にとって、AIは使い物にならないツールです。人間の攻撃者よりもはるかにノイズが多いからです。AIに何かを指示すると、まず直接やろうとし、それから別のアプローチを試します。非常にノイズが多く、プロのサイバースパイ活動はどれも、まさにその正反対を目指しています」
Zugec氏は、APTの視点で考えてみるよう促します。「私たちのような［サイバー調査グループ］が高度な作戦を発見すれば、それを文書化するだけで大きな打撃を与えられます。場合によっては、相手の作戦を何年も後退させることもできます。そんな彼らが、発覚するリスクを高めるAIを持ち込むでしょうか。まずありません」
AIの用途を限定すれば、本格的なキャンペーンでも利用は可能です。Bitdefenderは8月、中国系グループSilkParasiteに関するブログ記事を公開しました。このグループは、マルウェア開発のごく限られた部分でAIを活用していました。とはいえ、全体として見れば、AI主導の攻撃への大規模な移行を裏付けるデータはありません。「私たちはこの移行について何年も前から耳にしていますが、実際には起きていません」とZugec氏は述べています。
結局のところ、扇情的な見出しとは裏腹に、現時点での共通認識は次のようなものです。「私たちが今も目にしているのは、ClickFixや環境寄生型（LotL）攻撃のような、ごく退屈な侵害がほとんどです」と同氏は報告しています。AI脅威については、「公に記録されているのは逸話にとどまります」。
翻訳元: https://www.darkreading.com/threat-intelligence/ai-slop-ruining-cyberattacks
