AIサイバー犯罪レポート、台頭するAI駆使型脅威に警鐘

人工知能(AI)はもはや、攻撃者の生産性を高めるだけの存在ではなくなっています。

ThreatDownが新たに発表したレポートによると、AIは高度な攻撃のハードルを下げ、自律的な攻撃の実行を可能にすることで、サイバー犯罪のエコシステムを根本から変えつつあるといいます。

ThreatDownのAIサイバー犯罪レポートの要点

• AIは自律的な偵察・エクスプロイト・攻撃計画の立案を可能にすることで、高度なサイバー攻撃のハードルを下げている
• 犯罪者はガードレールを取り払ったAIモデルや正規のAIインフラをますます活用し、サイバー犯罪活動を拡大させている
• シャドーAI、悪意あるAIエージェントスキル、AI駆使型マルウェアが、企業のセキュリティおよびアイデンティティに新たなリスクをもたらしている
• 研究者らは、AIがゼロデイの発見を劇的に加速させ、防御側がパッチを適用できる猶予期間を縮める可能性があると警告している
• 組織はAI駆使型脅威に備えるため、脆弱性管理、継続的な監視、シャドーAIのガバナンスを優先すべきである

AIがサイバー攻撃のハードルをどのように下げているか

同レポートはまた、管理の行き届かないAI導入が組織の攻撃対象領域を拡大させ、攻撃者に新たな機会を与えていると警告しています。

研究者らによれば、次世代のAI駆使型サイバー脅威が本格化する前に組織が備えるべき猶予期間は、およそ6カ月と狭まりつつあるといいます。

今回の調査結果は、現代のAIエージェントが、単に質問に答えたりコードを生成したりする段階を超えて進化していることを浮き彫りにしています。

現在のモデルは複雑なタスクを自律的にこなし、ソフトウェアを長時間にわたって操作し、他のAIエージェントと連携することも可能になっています。

こうした能力は正規の利用者にとっては生産性の向上につながる一方で、サイバー犯罪者にとっても強力な新たな攻撃手段となっています。

レポートで紹介された一例では、ある攻撃者が主要なAIモデルを利用して、メキシコ政府の複数の組織への侵害を試みています。

偵察の過程でAIは、ある地方自治体の水道事業内にあるSCADA(監視制御システム)インターフェースを発見し、これを重要インフラとして分類した上で、攻撃者に運用技術(OT)に関する事前知識が全くなかったにもかかわらず、攻撃経路を提案しました。

この侵入は最終的に失敗に終わったものの、AIが重要インフラを狙う攻撃に必要な専門知識のハードルを劇的に下げ得ることを示す事例となりました。

研究者らはさらに、悪意あるAIツールがますます入手しやすくなっている実態も明らかにしています。

アンダーグラウンドのサービスの多くは、独自に構築した犯罪向けモデルに頼るのではなく、安全対策のガードレールを取り除くジェイルブレイクによって正規のフロンティアAIモデルをラップしたり、正規のクラウドインフラ経由でアクセス権を転売したりしているだけの場合が多いといいます。

同レポートはまた、Hugging Face上に公開されているガードレール排除済みのAIモデルが6,600個以上見つかったとしています。

これらのモデルは合わせて、わずか30日間でおよそ2,200万件のダウンロードを記録しました。

これらの多くはローカル環境で実行可能なため、クラウドプロバイダーがプロンプトを監視したり悪用を制限したりする機会そのものが失われてしまいます。

AIがマルウェアやサイバー攻撃の手口をどう変えているか

脅威アクターは、自らの攻撃活動にAIを直接組み込むケースを増やしています。

同レポートは、AIエージェントが複数の業界にわたって偵察、認証情報の窃取、ネットワーク侵入を自動化した事例が確認されていると指摘しています。

研究者らはさらに、悪意あるロジックをバイナリ内に埋め込むのではなく、実行時に動的に生成できるマルウェアも確認しており、これにより従来のシグネチャベースの検知手法の有効性が低下しているといいます。

より新しいマルウェアの亜種は、クラウドAPIに依存せず、侵害したシステム上でAIモデルをローカル実行することで、さらに一歩踏み込んだ手口を見せています。

これにより、AIプロバイダー側からの可視性が失われ、防御側による監視も一層困難になります。

AIエージェントが新たに生み出す内部セキュリティリスク

自律型AIエージェントの急速な普及は、企業に新たなリスクももたらしています。

同レポートによれば、AIエージェント向けスキルを扱う公開マーケットプレイスは、瞬く間に攻撃者の標的になっているといいます。

研究者らは、認証情報の窃取、機密データの外部流出、マルウェアのインストール、さらにはAIエージェントの長期記憶を書き換えて永続性を確保することまで可能な悪意あるスキルを確認しています。

攻撃者はまた、マルウェアを正規のAI関連リソースに見せかけるソーシャルエンジニアリングの手口にも軸足を移しています。

ある事例では、AI駆動の予測市場で利益を得る方法を謳った偽のガイドが、被害者に悪意ある実行ファイルをダウンロードさせ、最終的に認証情報を窃取するマルウェアをインストールさせていました。

発見当時、このペイロードは多くのエンドポイントセキュリティ製品においてほぼ検知されない状態だったと報告されています。

シャドーAIが企業のサイバーセキュリティリスクを高める仕組み

同レポートは、従業員による未承認AIツールの利用が、急速に拡大する攻撃対象領域を生み出していると警告しています。

生成AIを利用する従業員のほぼ半数が、管理されていない個人アカウント経由でこれらのサービスにアクセスしているとされています。

研究者らが引用したデータによると、2025年には5組織に1つの割合でシャドーAIに起因する侵害が発生しており、こうしたインシデントの被害額は通常の侵害を平均670,000ドル上回っているといいます。

管理外のAIプラットフォームは、機密性の高いやり取りやビジネスデータを露出させるだけでなく、価値ある認証情報、OAuthトークン、APIキー、セッショントークンを内包していることが多く、これらはアイデンティティを狙った攻撃に悪用され得ます。

AIがゼロデイ脆弱性の発見を加速させる可能性

おそらく同レポートで最も懸念される予測は、ソフトウェアの脆弱性に関するものです。

研究者らは、犯罪目的でAIを用いてゼロデイエクスプロイトを開発した初めての既知の事例だとする内容を指摘し、今後のAIモデルが脆弱性の発見を劇的に加速させる可能性があると主張しています。

同レポートでは、Anthropicの研究用モデルMythosが取り上げられており、主要なOSやブラウザにまたがるゼロデイ脆弱性を特定するとともに、複雑な多段階の攻撃チェーンを構築する能力も示したと報告されています。

研究者らは、同様の能力を備えたAIモデルが6カ月から12カ月以内に犯罪者向けマーケットプレイスに登場する可能性があるとみており、これはエクスプロイト開発と防御側のパッチ適用の両面で対応の必要性を高めることになります。

組織はAI駆使型サイバー脅威にどう備えるべきか

ThreatDownは、AI駆使型攻撃が成熟を続ける中、組織が重視すべき3つの優先事項を提示しています。

• 脆弱性管理とパッチ適用を加速させ、エクスプロイトが有効な期間を短縮する
• セキュリティオペレーションやマネージド検知・対応(MDR)を通じて継続的な監視を維持し、AI支援型攻撃を早期に察知する
• 環境全体で稼働する未承認のAIツール、エージェントスキル、AI連携を洗い出し、シャドーAIをガバナンスのもとに置く

同レポートは、AIを単なる一過性の技術トレンドとして捉えるのではなく、攻撃者が偵察を自動化し、エクスプロイト開発を加速させ、AI導入そのものを武器化し得るサイバーセキュリティの現状に対して、組織が備えるべきだと提言しています。

こうした能力の多くはすでに顕在化しつつありますが、研究者らは、今後数カ月が、防御側がAI駆使型脅威に先んじられるか、あるいは後手に回ってしまうかを左右する可能性があるとみています。

最初の侵害がAI支援型フィッシング、認証情報の窃取、ゼロデイエクスプロイトのいずれによるものであっても、ゼロトラストは攻撃者のアクセスを制限し、被害範囲を抑える助けとなります。