Amazonの脅威インテリジェンスチームが公表した新たな報告書によると、中国のハッカーがAIツール「Cairn」を使い、アジアの複数の大学に侵入する過程でゼロデイ脆弱性を発見したとされています。
Amazon Integrated SecurityのCISO、CJ Moses氏によると、調査の発端は9月10日でした。このとき、オープンソースの自律型AIペネトレーションテスト用フレームワーク「Cairn」のインスタンスが、公開状態のサーバー上でホストされているのを発見したといいます。
調査チームは、過去のプロンプトを含むプラットフォームの操作履歴を閲覧できました。操作者はプロンプトを簡体字中国語で記述しており、タイムスタンプも中国標準時に設定されていました。標的となった被害組織は、東アジアの大学です。
Moses氏は、Cairnが攻撃者にとって理想的なツールだと説明しています。出発点と目的を平易な言葉で与えるだけで、複数のAIエージェントを連携させてタスクを完遂できるためです。
今回のインシデントで攻撃者は、IPアドレスを提示したうえで、Cairnに「シェルアクセスの取得」を指示しました。これは、システムに対してさまざまな操作を実行できるだけのアクセス権を得る方法を見つけ出す、という意味です。
「これらの入力をもとに、AIエージェントは計画を立てて実行し、学習しながらアプローチを調整しました。操作者が次の手順を逐一選ぶことはありませんでした」とMoses氏は述べています。
試行の一つでは、16時間にわたって148回の操作が行われましたが、最終的に失敗に終わりました。この中には、Log4Shell脆弱性の悪用の失敗も含まれます。別の失敗例では、Cairnが6時間以上かけて、実在する80のユーザー名に紐づく3万件を超える認証情報の組み合わせを試し、大学のサーバーへの侵入を図りました。
唯一成功したのは、エージェントがオープンソースの医療画像AIアプリケーションの脆弱性を発見し、悪用したケースでした。
「発見時点で、この医療画像アプリケーションのパストラバーサルの脆弱性は、割り当て済みのセキュリティアドバイザリーに該当せず、パッチも未適用でした」とMoses氏は述べています。
「Amazon Threat Intelligenceは、これがゼロデイ脆弱性であると高い確度で評価しています。該当するオープンソースプロジェクトについて、対応する修正、Issue、アドバイザリー、脆弱性データベース上の過去の言及がいずれも存在しなかったためです」
攻撃者はその後、このゼロデイとみられる脆弱性を悪用して、2校目の大学にも侵入しました。
Moses氏によると、Amazon Threat Intelligenceは、この医療画像AIアプリケーションのメンテナーに連絡を取り、メンテナーは発見されたバグを修正しました。
同氏はさらに、AWSが「政府機関のパートナーと協力し、関係組織にこの活動について通知した」と述べました。AWSは、大学名や所在国を明らかにしていません。
Moses氏は、今回の攻撃キャンペーンが目立ったのは、AIエージェントの速度と作戦遂行のテンポゆえだと指摘しています。
ゼロデイ脆弱性を数分で発見して悪用するエージェントは、「多くのセキュリティオペレーションセンター(SOC)がアラートを手作業でトリアージするよりも速く、活動を完了してしまう」とMoses氏は警告しました。さらに、エージェントは「休憩も睡眠も勤務時間の制約もなく、16時間連続で稼働し続けた」と述べています。
ArtexとCairn
サイバーセキュリティ研究者や法執行機関は、ここ数週間、攻撃者、とりわけ中国系の攻撃者が使うAI搭載の攻撃用サイバーツールについて、相次いで警告を発しています。
FBIは1週間前、AIツール「Artex」に関するアドバイザリーを公表しました。それによると、Artexはあらゆる大規模言語モデルを強力なハッキングツールに変えることができ、「偵察からデータ窃取まで、サイバー侵入の複数のフェーズを機械的な速度で自動化」できるといいます。
Artexは、韓国や日本の金融機関に対する複数の攻撃への関与が指摘されています。Microsoftは、ITマネジメントソフトウェア企業ConnectWiseに対する最近のサプライチェーン攻撃で、中国の国家支援型攻撃グループがArtexを使用したとしています。Moses氏は先週、AIモデルに対する認証情報窃取攻撃や、暗号資産取引所を狙った攻撃キャンペーンでもArtexが使われていたと述べました。
Cairnについては、Googleの研究者も火曜日、Artex、CyberStrikeAI、PentAGIなどの自律型マルチエージェント攻撃フレームワークの利用拡大に関する報告書で、注目すべきツールとして取り上げました。
Googleは、米国の航空宇宙分野の企業への侵入でCairnが使われていたことを確認したと説明しています。AWSの調査結果と同様に、標的のIPアドレスを起点として、作戦上の目的の達成まで一貫して進められる点に長けていると記しました。
AWSによるCairnの報告書は、サイバーセキュリティ企業Gambit Securityが9月に公表した調査を引用しています。この調査では、金銭目的のハッキンググループがCairnを使ってオンライン小売業者に侵入した事例が報告されました。
Gambit SecurityのThreat Intelligenceディレクターで、この調査を手がけた研究者のEyal Sela氏はRecorded Future Newsに対し、Cairnは汎用ツールであるため、Artexよりも重要だと語りました。
「『レッドチーム』やCTF(キャプチャー・ザ・フラッグ)の課題を解くのは得意ですが、それ以外の問題も解決できます。最大のポイントは、サイバーセキュリティに特化した内部構造を持たないことです」とSela氏は述べています。
「ツールが汎用的であるほど、タスクを解く方法に対する構造化が少ないため、挙動の予測が難しくなります」
翻訳元: https://therecord.media/amazon-research-cairn-ai-university-attacks-possible-zero-day