シマンテック、ハイジャックしたAIモデルで自律的にサイバー攻撃を仕掛けるAIエージェントを発見

セキュリティ研究者が、人間の介入なしにサイバー攻撃の全工程を実行するよう設計された新たなAIエージェントを発見しました。

このエージェントは、ハイジャックしたAIモデルを利用し、人間の承認なしに最大10万件の悪意ある操作を自律的に実行するよう作られていました。標的のスキャン、脆弱性の悪用、認証情報の窃取、暗号資産マイナーの展開、侵害したシステムへの再感染などが含まれます。

シマンテックのThreat Hunter Teamの研究者らは、AIハニーポットを使ってこの悪意あるエージェントを発見しました。AIハニーポットとは、インターネットに公開された無防備なAIサービスを装い、AIインフラへの攻撃を誘引して調査するためのシステムです。

研究者らは2026年夏に、このエージェントの命令セット全体を取得しました。ハニーポットが攻撃者のツールを実行することはなかったものの、エージェントがどのように自律動作するよう設計されていたかが明らかになりました。詳細は10月21日に公開されたレポートで説明されています。

AIハニーポットがLLMjackingを可視化

このAIハニーポットは、設置からレポート公開までの間に、数万の異なるアドレスから12万7,000件を超える外部リクエストを記録しました。

シマンテックの研究者らが、この活動を分析したところ、このエージェントは大規模言語モデル（LLM）に関連する公開エンドポイントを探し回っていることがわかりました。対象には、自前でホストされたモデル、AIゲートウェイ、モデルコンテキストプロトコル（MCP）サーバーなどが含まれます。目的は、その計算能力を無料で使うことです。この手法は「LLMjacking」と呼ばれることもあります。

「モデルの実行には必ず誰かがコストを負担しています。自前でホストするモデルなら処理時間、商用モデルならトークン単位の料金です。攻撃者は他人のエンドポイントや盗んだキーを経由して作業を行うことで、そのコストを被害者に転嫁しています」と、シマンテックの研究者らは指摘しています。

この手法には、攻撃者にとって匿名性を確保できる利点もあります。AIモデルの提供事業者が不正利用を理由に科すアカウント停止も避けられます。

取得した命令セットには、約74種類のツールが含まれていました。インターネット全域の偵察、一般的なウェブフレームワークの悪用、データベースの窃取、認証情報の収集、ボットネットの管理などに使うものです。

特に注目されるのは、攻撃者が商用AIモデルの安全対策を回避するため、多層的な命令を用いていた点です。認証情報の窃取を、正当な開発作業であるかのように偽装していました。

別のリクエストには、難読化されたスクリプトも含まれていました。Monero（モネロ）のマイニングソフトウェアをインストールし、その存在を隠し、ログを消去するためのものです。

自律型AIエージェントがサイバー犯罪の参入障壁を下げる

シマンテックの研究者らは、今回の攻撃キャンペーンで攻撃者が使った手法に新しいものはないと述べています。しかし、それらを単一の自律型エージェントにまとめたことで、他の攻撃者が広範な攻撃キャンペーンを実行するために必要なスキルは下がっています。

「運用者はモデルに目標を与えるだけで、あとは任せられます」と、研究者らは付け加えました。

研究者らは、この活動は「攻撃者によるAIの使い方の転換を示すもの」だと結論づけています。運用者は、公開チャットボットをだまして不適切な動作をさせようとするのではなく、AIを攻撃ツールに組み込んでいると説明しました。

また、このモデルを「攻撃を計画し、主導する推論エンジン」と位置づけています。一方で、スキャン、悪用、マイニングは、ツール自身のモジュールが別々の被害者に対して実行します。