攻撃が行き詰まった場面で、脅威アクターがAIモデルを投入して攻撃を立て直し、横展開（ラテラルムーブメント）にまで成功していたことがわかりました。
Symantecが本日詳細を公表した今回の攻撃は、9月に米国の小売企業（社名は非公表）を標的にしたものです。攻撃者が手作業で入力したコマンドは何度もブロックされました。そこで攻撃者はAIが生成したとみられるコマンドに切り替え、小売企業の防御を短時間で突破しています。最終的に攻撃者は認証情報を窃取し、数分以内に横展開を達成しました。
Symantecは、コマンド間の間隔が人間によるキーボード操作よりも自動化を思わせるものだったことから、AIが使われたと判断しています。ただし、そのタイミングからは、調査担当者は今回の活動について「自律型エージェントというより、オペレーターがAIツールに出力結果を中継していたと考えるほうが整合的」とみています。
同社によると、今回の事案は、5月以降にSymantecが調査してきた数十件のAI支援型攻撃のうちの1件です。ただし、活動は9月前後に大きく集中していたといいます。
LLMを悪用する攻撃者の新時代
脅威アクターは、大規模言語モデル（LLM）が広く使えるようになった当初から、攻撃に活用してきました。初期の用途は、説得力のあるフィッシングの誘い文句の作成や、基本的なデータ偵察などでした。しかし最近の証拠からは、攻撃者がAIを使ってエンドツーエンドの攻撃を実行したり、マルウェア開発を支援させたりしていることがわかります。さらに最近では、攻撃者がエージェント型のペネトレーションテストツールを悪用し、いまも悪用し続けて、マシンの速度で標的環境に侵入しています。
Symantecは今回の攻撃について、初期アクセスの手口は特定できなかったとしています。むしろ、インシデント後の調査から読み取れた時系列の把握に重点を置きました。ブログ記事によると、攻撃者は当初、手作業で操作していました。調査担当者は、タイプミスなどの痕跡からそう判断しています。
設置したペイロードがすべてセキュリティソフトに停止されると、翌日に再試行した際は攻撃者の戦術が変わったことを示す兆候が見られました。Symantecは次のように述べています。「攻撃者は2時間近くにわたり、出力セクションにラベルを付けた、エラーのない長いPowerShellスクリプトを送り込んできました。一部には、モデルの推論過程のように読めるコメントも含まれていました」。攻撃者は被害組織のSolarWinds Orion監視ソフトウェアを照会してから約10分後に、2台目のサーバーへの横展開に成功しました。
ブログ記事は、攻撃の背後にいた攻撃者は金銭目的だった可能性が高いと推測しています。POS（販売時点情報管理）のスクリプトからパスワードを探していたほか、接続先のアドレスの1つが、オンライン小売業者からカードデータを盗む活動に関連していたためです。
敗色濃厚から攻撃を成功に導く
第2段階の活動では、脅威アクターがWebサーバーへの初期アクセスを獲得し、SolarWinds Orion監視ソフトウェアに関連する設定ファイルから認証情報を盗みました。AIが攻撃者の手口を加速・改善するという話自体は目新しくありません。しかし今回の攻撃の特徴は、実行中のハンズオンキーボード型攻撃にAIを投入し、一見敗北に終わりそうだった局面から勝利をつかみ取った可能性がある点です。LLMは、スキルの低い脅威アクターにとって状況を一変させる存在になり得ることを示しています。
Symantec Threat Hunter Teamの主席インテリジェンスアナリスト、Dick O’Brien氏はDark Readingに対し、AIが攻撃を復活させた事例は、同チームがここ数週間で確認した複数の事案の1つだと語りました。同氏はこれを攻撃者にとってのゲームチェンジャーと呼ぶ一方で、AIには、ある手法の変種を立て続けに試すといった特有の振る舞いがあるため、「防御側がそのパターンを活用できる可能性もある」と指摘しています。
同氏は次のように述べています。「再試行のパターン自体がシグナルになります。ファイル名や正確なコマンドではなく、振る舞いに基づいてブロックすることがはるかに重要です。ブロックされた試行の直後に変種が現れた場合は、優先度の高いアラートとして扱うことを検討する価値があります」
今回の攻撃では脆弱性が悪用されたわけではなく、パッチ適用も必要ありませんでした。それでもO’Brien氏は、AIによる攻撃の加速というこの傾向はパッチ適用競争に影響を与えており、今後も与え続けるとみています。「防御側は、平均パッチ適用時間（MTTP）ではなく、平均緩和時間（MTTM）に目を向け始める必要があるというのが私たちの見解です。パッチ適用はいまも重要ですが、唯一の対策であってはなりません」
翻訳元: https://www.darkreading.com/cyberattacks-data-breaches/inside-ai-attack-us-retailer
