AIスキャム急増で、セキュリティの焦点が「人間レイヤー」へ

サイバー犯罪者たちは、従業員によるAI活用の実態に合わせてソーシャルエンジニアリング攻撃を巧みに作り変えています。MicrosoftとGoogleがそれぞれ発表した勧告では、攻撃者がAI搭載ツールや信頼性の高いデジタルサービス、変化する職場環境に適応してスキャムを進化させている実態が明らかにされています。

Microsoft Threat Intelligenceは勧告の中で、脅威アクターが「AI自体への世界的な関心の高まりをソーシャルエンジニアリングの誘い文句として利用している」と指摘しています。ChatGPT、Microsoft Copilot、DeepSeek、AnthropicのClaudeなどのプラットフォームを偽装し、マルウェアの配布、認証情報の窃取、金融詐欺を行っているとしています。

Googleは最新の「詐欺・スキャム勧告」の中で、従来のフィッシングが中間者攻撃（AITM）やQRコードフィッシングへと進化していることを指摘するとともに、信頼性の高いクラウドサービスの悪用拡大、AI主導の投資詐欺、なりすましキャンペーンの増加についても記録しています。

Microsoftの勧告はAIブランドを騙った誘い文句に焦点を当て、Googleの勧告はより広範な詐欺トレンドを分析していますが、いずれも技術的なエクスプロイトだけに頼るのではなく、日常的な企業ワークフローにおけるAIの役割の高まりに合わせてソーシャルエンジニアリング手法を進化させている攻撃者の実態を指摘しています。

AIを騙った誘い文句の主流化

「脅威アクターは、注目度の高いサービスリリースや新興トレンドをいち早く利用し、信頼性の高いブランドを悪用してユーザーの好奇心を刺激することでキャンペーンの成功率を高めています」とMicrosoftは勧告の中で述べています。また、AIブランドを掲げていても、キャンペーンの手口は緊急性を煽るメッセージ、信頼できるサービスの悪用、多段階のリダイレクトチェーンなど「従来からの手法」に依然として依存していると付け加えています。

Microsoftは、AIをテーマにしたキャンペーンが単なる機会主義的な攻撃を超えつつあると主張しています。勧告では「AIをテーマにした誘い文句は、サイバー犯罪グループから国家に至るまで、脅威アクターが長期的な戦術として用い続けるソーシャルエンジニアリングの変容を反映している」と述べています。具体的な事例として、ChatGPTをテーマにしたサブスクリプション更新メールや、盗用したブランドと検索最適化を悪用してVidar Stealerマルウェアを配布した偽のDeepSeek V4リポジトリなどを挙げています。

Googleの勧告も、異なる角度から同様の結論に達しています。

「詐欺は依然として世界的な課題であり続けており、オンラインでの金銭的利益を狙う高度化した国際犯罪グループがその主な原動力となっています」と同社は述べています。2025年の世界全体での詐欺被害額は5,800億ドルに達する可能性があるとの試算も示されています。勧告では、信頼性の高いクラウド生産性ツールを悪用した「カレンダーフィッシング」キャンペーン、正規のログイン画面を模倣したAITM攻撃、そしてAI主導の投資指導を装って被害者に悪意のあるコードを実行させる暗号通貨詐欺などが取り上げられています。

両勧告は、まったく新しい攻撃手法の登場ではなく、サイバー犯罪者がAIツールやクラウドサービスが日常業務に溶け込んだ環境に合わせて、従来のフィッシング、なりすまし、マルウェアキャンペーンを適応させている実態を記録しています。

セキュリティの焦点、人間レイヤーへの移行

セキュリティ研究者たちは、こうした調査結果がAIの企業アプリケーションおよび従業員のワークフローへの浸透に伴う、より広範な企業課題を反映していると指摘しています。

「ディープフェイク、音声クローニング、ソーシャルエンジニアリングを含むAI強化型フィッシングおよびなりすましは、現在企業が最も懸念するAI主導の脅威として首位に挙げられており、回答者の58%がこれを問題視しています」と、IDCアジア太平洋地域のサイバーセキュリティサービスリサーチ担当シニアリサーチマネージャーを務めるSakshi Grover氏は述べています。

「攻撃対象領域はソフトウェアスタックから認知・行動レイヤーへと移行しました。つまり、AIブランドの体験が指示するものを従業員が信じ、クリックし、行動に移してしまうという領域です」とGrover氏は述べています。

Everest GroupのシニアアナリストPrabhjyot Kaur氏は、組織はこのトレンドを単なるシャドーITの新たな波として捉えるべきではないと述べています。

「シャドーITは可視性の問題でした。シャドーAIは信頼の悪用問題です」とKaur氏は述べています。AIの機能が組み込みSaaS機能、ブラウザ拡張機能、コパイロット、生産性プラットフォームを通じてますます普及しており、従業員が日常業務の一環として取り入れている点を同氏は強調しています。

フィッシング対策を超えたレジリエンスの構築

アナリストらによれば、企業リーダーにとっての課題は、個別のフィッシングキャンペーンへの対応にとどまらず、変化するユーザー行動にセキュリティプログラムを適応させることにあります。

GartnerのシニアプリンシパルアナリストApeksha Kaushik氏は、敵対者が「主要AIブランドの信頼性を利用し」、ディープフェイク、なりすまし、偽情報を通じてソーシャルエンジニアリングキャンペーンを「超リアルで説得力を持って個人に最適化されたもの」にしていると述べています。

「攻撃者は従業員がAIとどのように接するかに合わせて適応しており、技術的なエクスプロイトを求めるのではなく、信頼や日常的な行動パターンを操作することで人間レイヤーを標的にしています」とKaushik氏は述べています。

同氏は、組織は個別の対応ではなく長期的なレジリエンスに注力すべきだと述べています。「戦略的な戦いは、個々の突発的な攻撃をブロックすることから環境そのものを管理することへとシフトしました」とKaushik氏は述べており、より広範な攻撃エコシステムが進化し続ける限り、1件のディープフェイクやなりすましを阻止しても戦術的な勝利に過ぎないと論じています。