攻撃者がオープンソースのAIペネトレーションテストフレームワーク「ARTEX」を使い、世界各地の銀行、政府機関、エネルギー事業者、医療機関などの重要分野に対する攻撃を自動化しています。FBIとAmazon Threat Intelligenceが発したセキュリティアラートで明らかになりました。
Amazonのハニーポット型脅威センサー「MadPot」は、10月3日から11月5日にかけて、ARTEXを使った2件の攻撃キャンペーンを検知しました。1件目は、AIの認証情報を「産業規模」で盗み出し、モデルに無料でアクセスするものです。2件目は、ディープフェイク動画を生成し、ライブのセルフィー認証を欺くものです。
1件目のキャンペーンで、攻撃者はAIエージェントを使ってAPIキーを窃取しました。続いて、そのキーをARTEXのモデルゲートウェイに投入し、さらに別のAIモデルのアクセスキーを探すエージェントを動かしていました。
AWSの最高情報セキュリティ責任者(CISO)であるCJ Moses氏は、金曜日に公開したブログ記事 で次のように述べています。「エージェントは各プロバイダーのトークンサービスやIDサービスを通じてIDを検証し、ストレージを列挙して権限の範囲を調べました。そのうえで、マネージドAIモデルサービス、シークレットストアやパラメータストア、アプリケーションIDを狙いました」
標的には、One API、New API、Veloera、Sub2API、LiteLLMといったLLMゲートウェイやプロキシプラットフォームが含まれていました。AIアプリケーション構築ツールのDify、FastGPT、Langflow、RAGFlow、Open WebUI、LobeChat、Ollamaも狙われています。
このキャンペーンでは、クラウドの認証情報も使い、モデルへの不正アクセスを実現していました。
2件目のキャンペーンで、攻撃者はARTEXを使ってリアルタイムのディープフェイク動画を作成し、2つの暗号資産取引所の本人確認(KYC)を欺こうとしました。さらに、偽造した身分証の写真で書類確認も通過させようとしました。
Moses氏は次のように書いています。「エージェントは、あるベンダーのライブネス検知プロトコルを詳細にリバースエンジニアリングしました。送信される顔検出イベントのストリーム、確認中に顔の位置を追跡する仕組み、ユーザーに動く方向を指示する座標系まで、すべて文書化していました」
エージェントは、顔の位置を目標から7ピクセル以内に収めたまま、一連の動作を最後まで完了させることに成功しました。しかし、これだけでは不十分でした。ベンダーのサーバー側の判定は、すべての試行でディープフェイクを拒否したのです。
別のセッションでは、エージェントがオープンソースの顔アニメーションモデルを用い、一般消費者向けのGPU1枚でリアルタイムのディープフェイク動画パイプラインを構築しました。この動画は毎秒11.5フレームを達成しており、Moses氏は「ライブ動画の確認が求める水準に近い」と指摘しています。
一方で、エージェントは身分証の書類確認にも取り組みました。JPEGファイル内の実際の値と画像サイズが一致する偽のカメラメタデータを作成し、編集した画像を再保存すると通常は置き換わってしまう、元のカメラの圧縮テーブルも維持していました。
最終的な目的は暗号資産の窃取でしたが、このキャンペーンからは、ARTEXが複数のセッションを同時に走らせ、複数のエージェントが同じ目標に向けて動く様子がうかがえます。Moses氏は次のように書いています。「あるエージェントは現金化の方法を探し、別のエージェントは口座残高の清算を進めました。さらに別のエージェントはディープフェイク動画のパイプラインを構築し、もう1つが本人確認の回避を実行しました」
攻撃手法そのものに新しいものはありません。ただ、2件のキャンペーンは、AIエージェントが攻撃者の速度と執拗さを高めることを示しています。
Moses氏は続けます。「エージェントが成功したのは、基本的なセキュリティ対策が欠けていた場所でした。たとえば、デフォルトやハードコードされた認証情報、コードや公開成果物に残されたキー、認証のないインターフェースや推論エンドポイント、パッチ未適用のソフトウェアなどです。こうした基本を確実に固めることが、今も最も効果的な防御策です」
FBIも見解を発表
FBIも、金曜日に出した別のアラートで同じ点を強調しました。アラートによると、「ARTEXは攻撃手法を連鎖させるのに必要な時間を大幅に短縮しており、最初の標的選定から特権アクセスの取得まで3時間足らずで進んだ侵入もある」といいます。
FBIは具体例として、8月に韓国の金融機関が攻撃を受け、約6万7000人分の個人データが盗まれた事例を挙げています。9月のARTEXキャンペーンにも言及しました。このキャンペーンはConnectWise Cloud Backupの顧客を狙ったサプライチェーン攻撃で、最終的に下流にある2250超のMicrosoftテナントが侵害されました。
これらの侵害が公になった後、ARTEXの元の開発者は10月にGitHubリポジトリを削除しました。
それでも、フォーク版やローカライズ版に加え、商用版が残っています。インターネットスキャンサービスのCensysは、11月4日時点でARTEXのコンソールが公開状態のホストを1465台確認しました。FBIによると、ファイアウォールの内側やプライベートネットワーク内のシステムも含めれば、導入数は「大幅に多い可能性が高い」とのことです。
FBIは、すべての組織に対し、Flashアラートに示した一連の緩和策を実施するよう促しました。特に、インターネットに公開されたアプリケーション、セルフサービスポータル、クラウドインフラ、パートナーや供給元のシステムを運用する組織に強く求めています。
緩和策には、外部からの攻撃対象領域の縮小が含まれます。具体的には、機微なサービスへのアクセスを信頼できるネットワーク、プライベート接続、専用の管理経路に限定します。また、企業アプリケーションをゼロトラストのアクセスポリシーと権限設定の下に置くことも求めています。®