「武器化されたAI」は今年、あなたのビジネスが直面する最大のセキュリティ脅威になり得る――専門家が語るポイントは…

人工知能は現在、サイバー犯罪者によって詐欺の自動化、フィッシングキャンペーンの大規模化、そして従来は現実的ではなかったレベルでのなりすましの産業化に利用されている。

残念ながら、AI支援の攻撃は今年、あなたのビジネスが直面する最大級のセキュリティ脅威の一つになり得る。しかし、状況を把握し、迅速に行動すれば、一歩先を行くことができる。

Group-IBの「Weaponized AI」レポートは、犯罪者によるAI利用の拡大が、孤立した実験ではなくAIツールの商業的な入手可能性により駆動される、明確な第5のサイバー犯罪の波を形成していることを示している。

AI主導のサイバー犯罪活動の増加

ダークウェブ監視から得られた証拠は、AI関連のサイバー犯罪活動が新技術への短期的な反応ではないことを示している。

Group-IBによれば、AI関連キーワードに言及するダークウェブの初投稿は、2019年から2025年の間に371%増加した。

最も顕著な加速は、2022年末のChatGPTの一般公開後に起き、その後も関心の高さは持続的に高い水準を保っている。

2025年までに、毎年数万件のフォーラム議論がAIの悪用に言及しており、実験的な好奇心ではなく、安定した地下市場の存在を示している。

Group-IBのアナリストは、大規模言語モデルの悪用に明確に焦点を当てた投稿を少なくとも251件特定しており、その大半の言及はOpenAIベースのシステムに結び付いていた。

安全制限のない自己ホスト型のDark LLMを提供するベンダーが少なくとも3社存在し、構造化されたAI犯罪ウェア経済が出現している。

サブスクリプション価格は月額30～200ドルで、一部のベンダーは1,000人超のユーザーがいると主張している。

最も急成長している分野の一つがなりすましサービスで、本人確認の回避に結び付くディープフェイクツールへの言及は前年比233%増となっている。

入門レベルの合成IDキットは5ドル程度で販売される一方、リアルタイムのディープフェイク・プラットフォームは1,000～10,000ドルの価格帯となっている。

Group-IBは、2025年1月から8月の間に単一の機関で8,065件のディープフェイクを用いた不正試行を記録し、世界で確認済みの損失は3億4,700万ドルに達した。

AI支援型マルウェアとAPI悪用は急増しており、AI生成のフィッシングはマルウェア・アズ・ア・サービス（MaaS）プラットフォームやリモートアクセスツールに組み込まれるようになっている。

専門家は、チームが継続的に監視しシステムを更新しない限り、AI駆動の攻撃は従来の防御を回避し得ると警告している。

ネットワークには、異常なトラフィックやAI生成のフィッシング試行を識別できるファイアウォールによる保護が必要だ。

適切なエンドポイント保護があれば、マルウェアやリモートアクセスツールが拡散する前に不審な活動を検知できる。

AI対応の攻撃は標準的な手法が対応するよりも速く実行・拡散し得るため、迅速かつ適応的なマルウェア除去は引き続き重要である。

多層防御アプローチと異常検知と組み合わせることで、ディープフェイク通話、クローン音声、偽のログイン試行といった侵入を阻止するのに役立つ。