サイバー犯罪者、オープンソースツールのリポジトリに悪意あるAIエージェントを仕込む

ハッカーの活動に関する新たな分析によると、サイバー犯罪者はサイバー攻撃を自律的に計画・実行するために、AIエージェントやチャットボットの利用を増やしています。

ESETのセキュリティ研究者は、AIエージェントが使用する小規模な機能コンポーネントである「AIスキル」を公開リポジトリ上で90万件調査し、そのうち数万件が不審なもの、数千件が明確に悪意あるものであることを突き止めました。

ESETが7月8日に公開した2026年上半期の脅威レポートによると、不審かつ悪意あるAIツールセットの拡散によって攻撃対象領域が拡大しており、組織はサイバー脅威にさらされるリスクが高まっているといいます。

AIエージェントはタスクを計画し、ウェブを閲覧し、サードパーティのサービスと連携し、ファイルを書き込み、コマンドを実行するなど、利用者に代わって様々な行動を取ることができます。多くの正規ユーザーは生産性向上のためにAIエージェントを活用していますが、エージェント型AIの普及に伴い、サイバー犯罪者やその他の悪意ある脅威アクターにも利用されるようになっています。

リポジトリの分析では、ここ数カ月で不審・悪意あるツールが大幅に増加していることが判明しました。ESETが特定した不審と見なされるAIエージェントスキルは、調査期間中に約1万件から2万5000件超に増加し、悪意ありとしてブロックされたものは約600件から3000件超へと急増しました。

データ窃取のためにAIツールを悪用

これらのAIエージェントツールセットは、悪意ある攻撃者に代わって行動を実行するために悪用されたり、あるいは最初からそうした目的で設計されたりすることがあります。また、一般ユーザーが気づかぬうちに悪意あるツールセットをダウンロードすることを狙ってオープンソースのリポジトリに設置されるケースや、攻撃者向けに明確に悪意あるものとして提供されるケースもあります。

いずれの場合も、これらのAIツールが攻撃者に許してしまう悪意ある機能には、データの窃取、マルウェアのダウンロードと実行、ユーザー指示の上書き、さらにはエージェントの挙動を巧妙に変化させることまで含まれます。

例えば、あるツールセットは正規のレッドチーム機能を提供すると謳っていました。しかし実際には、このエージェントは宣伝されていた範囲をはるかに超える能力を備えており、認証情報の窃取や、高い権限を持つ持続的なアクセスの獲得を可能にしていました。中には、Mimikatzのようなリモートアクセスツールを投下するものもあり、これはランサムウェア攻撃との関連でよく知られています。

また、明確に悪意があるとまでは言えないものの、構造上、サイバー犯罪者がサイバー攻撃を実行する目的に容易に転用できてしまうツールも数千件確認されています。

サイバー犯罪者はこれまでにも、悪用可能なブラウザ拡張機能やモバイルアプリを開発・配布する際に同様の手法を用いてきました。しかしESETは、AIの追加によって被害者となり得る対象へのリスクが高まっていると警告しています。

レポートは次のように述べています。「機密データの取り扱いや購入処理、API呼び出し、命令チェーンの実行に関しては、AIエージェントの自律性の高さがこうした攻撃のリスクと影響範囲を増大させます」

悪意あるまたは不審なAIツールの存在は、企業にとって新たなサイバーセキュリティ上のリスクとなっています。組織は、必要に応じて不審なツールを制限するポリシーを整備し、身元不明の提供元から無料ツールをダウンロードすることに伴う潜在的リスクをユーザーに周知しておく必要があります。

ESETのグローバル・サイバーセキュリティ・アドバイザーであるJake Moore氏は、Infosecurityに対して次のように語りました。「AIは驚くべき速度と自律性を発揮しますが、単純なタスクにもかかわらずファイルや認証情報への広範なアクセスを要求してくるツールや、公式のソースではなく誇大な宣伝を通じて広まっているものに注意するといった、従来からの防御策を最大限活用してデータを守ることは今も可能です」

「もし無料のAIツールが過大な期待を約束し、その見返りに自分のマシンの鍵を渡すよう求めてくるようなら、そこには少なからず不釣り合いな点があるはずです」と同氏は付け加えました。