脅威グループ、AIでサイバー攻撃能力を強化

脅威アクターは攻撃の高速化と拡大を図るため、エージェント型AIとAIベースの自動化の活用を強めています。火曜日にGoogle Threat Intelligence Groupが公開した報告書によると、こうした傾向が明らかになっているとのことです。さらにハッカーたちは、認証情報を窃取し、侵害した組織のクラウド環境を悪用するために、独自開発のAIモデルを意図的に標的にしているといいます。

ここ数カ月で、国家に関連するグループやサイバー犯罪グループなど、さまざまな集団が攻撃フレームワークにAIを組み込んでおり、新たな標的の発見、セキュリティ脆弱性の悪用、新しい攻撃手法の探索を可能にしています。研究者らは、これほど多くのグループがAIをツールキットに取り入れている以上、防御側は今後の攻撃にAIが何らかの形で関与する可能性を前提とすべきだと警告しています。

「現時点では、すべての脅威アクターが何らかの形でAIを利用しており、その活動に恩恵を受けていると考えるべきです」と、GTIGのチーフアナリストであるジョン・ハルトクイスト氏は声明で述べています。「他の誰もと同様、私たちも脆弱性の問題を懸念していますが、AIはそれ以外の複数の領域にも応用されています。特にエージェント的に応用されることで、規模も速度も増した敵対者が生まれるため、これは極めて厄介な課題となるでしょう」

AIによる革新

Googleの研究者らは、AIが攻撃ライフサイクルに組み込まれた事例として、以下のようなキャンペーンを挙げています。

• 政府機関を標的にしてきた実績を持つ中国系のスパイ活動グループは、AIベースの開発ツールを使い、AI支援による自動化されたエクスプロイト・侵害後活動パイプラインを最近構築しました。この攻撃者はCC Switchと呼ばれるツールを使って複数の大規模言語モデルを操作し、Claude、Gemini、Codexにクエリを送信しています。これらのツールは、カスタムのエクスプロイトスクリプトやスピアフィッシングの誘導文の作成に役立てられました。

• Basin Castleとして追跡されている中国系のグループは、価値の高い標的のプロファイリング、現地向けのソーシャルエンジニアリング誘導文の作成、カスタムマルウェアの作成のためにLLMにクエリを送信していました。

• Calanque Ionとして追跡されているイラン系のグループは、GoogleのGeminiを含む生成AIを偵察やソーシャルエンジニアリングに活用してきました。具体的には、メールアドレスの標的化、現地に合わせたソーシャルエンジニアリング誘導文の作成、各地域の言語へのコンテンツ翻訳にAIを使用しています。同グループはまた、ソフトウェアのリバースエンジニアリングを試みる際にもAIを利用していました。

AIモデルの探査

Googleの研究者らは、脅威アクターがモデル蒸留キャンペーンにも関与していると警告しています。研究者らの推計によれば、一部は1億回を超えるプロンプトに及ぶ協調的なキャンペーンがGoogleのAIモデルを標的とし、モデルのロジック、推論能力、思考連鎖(chain-of-thought)プロセスの抽出を狙っているといいます。

攻撃者はまた、大規模な自動化攻撃を仕掛けようと、プロキシインフラを展開してもいます。ハッカーはクエリを送信し、侵害された認証情報や不正なアカウントへのアクセスを得ることで、標準的なセキュリティ対策の回避を図っています。

研究者らは脅威アクターによるこうした取り組みを以前から報告しており、そこにはフロンティアAIの利用も含まれていました。