中国を拠点とすると見られるハッカーたちが、すでに侵入したクラウド環境の内部でAIモデルを稼働させていることが分かりました。
Google Threat Intelligence Groupは、この活動を実行したのは北米の学術機関、医療機関、軍事研究機関を標的としてきた中国系スパイ活動集団UNC6508の疑いがあるとしています。
これまでの調査では、同グループが一部の研究機関ネットワークへのアクセスを1年以上にわたって維持していたことも判明していました。
被害者クラウド内で処理を完結させたローカルAIモデル
GTIGの最新のAI脅威調査によると、疑わしい攻撃者はオープンウェイトのAIモデルを、侵害したクラウド環境の内部に直接展開していました。分かりやすく言えば、外部のAIサービスにリクエストを送信する代わりに、被害者のコンピューティングリソース上で動作するダウンロード型のモデルをインストールしていたのです。
ローカルで実行することで、攻撃者は自らが所有していない計算能力を利用でき、商用AIサービスを通じて得られる一部の監視の目を逃れることができました。その結果、検知は被害者自身のクラウドセキュリティ対策により大きく依存することになりました。
研究者らによると、UNC6508は独自のAI研究も標的としており、今回のクラウド活動は同グループがAI全般に抱く広範な関心と結びついているとみられます。
長期にわたるアクセスが示すUNC6508の手口
Googleが以前実施したUNC6508に関する調査では、北米の研究機関を狙った攻撃が2023年にまで遡ることが判明していました。攻撃者は医療・科学研究で使われるREDCapシステムを繰り返し標的とし、文書化されたある侵害事例では、認証情報を窃取しソフトウェアのアップグレード後も生き残るよう、INFINITEREDと呼ばれるカスタムマルウェアをインストールしていました。
一部の侵入は1年以上にわたって発覚しませんでした。窃取された認証情報により、攻撃者は後にエンタープライズ管理者アカウントへのアクセスを得て、正規のメールルール機能を悪用し、特定のメッセージを密かに攻撃者側の管理下にあるアカウントへ転送していました。
攻撃者はまた、悪意あるトラフィックを通常の利用と区別しにくくするため、活動を米国拠点のインフラ経由でルーティングしていました。
Googleは後に、この攻撃キャンペーンに関連するインフラを無効化し、影響を受けた組織に通知しました。
研究機関のセキュリティチームは説明のつかないクラウド利用を疑うべき
大学や医療研究センターなどの組織にとって、通常とは異なるクラウド活動は、単なるコストの問題ではなく、セキュリティ上の問題として調査すべき対象です。研究環境はもともと大量の計算リソースを消費するため、不正なAIワークロードが見落とされやすい傾向にあります。
- 通常とは異なる計算利用を、把握している所有者にたどる。急なGPU利用、新規のクラウドサーバー、予想外のコスト増加は、承認済みのプロジェクトとユーザーに紐づいているはずです。説明のつかない活動があれば、セキュリティレビューを行う価値があります。
- 侵害されたアカウントが何を変更したかを確認する。パスワードをリセットしても、アカウントが保護される前に作成されたワークロードや設定は削除されません。新規サーバー、スケジュールされたジョブ、管理者権限の変更、見覚えのないメール転送ルールがないか確認してください。
- ログインアラートだけに頼らない。有効な認証情報があれば、攻撃者の活動も正規のものに見えてしまいます。クラウドワークロードセキュリティの監視は、認証自体は通常どおりに見える場合でも、通常の利用から逸脱した活動を特定する助けになります。
- 攻撃者のリソースを削除する前に、アクセスを封じ込める。後片付けを行う前に、有効なセッションを無効化し、露出した認証情報をローテーションしてください。強力なアクセス制御は、侵害されたIDが再び悪用される可能性を減らします。
窃取された認証情報が見つかった場合は、調査範囲を広げる必要があります。セキュリティチームは、情報がアクセスされたか、設定が変更されたか、あるいは侵害後にクラウドリソースが利用されたかを見極めなければなりません。
関連ニュース: AIを悪用したWeChatのエクスプロイトは、侵害された1件の連絡先から次々と拡散する恐れがあり、10億人を超えるユーザーを抱えるプラットフォームに潜在的なリスクをもたらしています。
翻訳元: https://www.esecurityplanet.com/news/news-chinese-hackers-ai-compromised-clouds/
