情報を盗み出したり、破壊的なマルウェアを仕込んだりする手段としてフィッシングメールが使われ始めたのは、1990年代半ばにさかのぼります。
インターネットとほぼ同じだけの歴史を持つ手口ですが、信頼できる組織や個人になりすまして企業に侵入しようとする攻撃者にとって、今も選ばれ続けている武器です。実際、利用は増加傾向にあります。米連邦捜査局(FBI)の最新の統計によると、FBIに寄せられるサイバー犯罪の届け出のうち、約26%がフィッシング関連となっています。
悪い知らせはこれだけではありません。フィッシングは憂慮すべき新たな形へと変質しつつあり、防御側にさまざまな難題を突きつけています。電子メールセキュリティは、いま難しい転換点に立たされています。AIは長年、サイバー犯罪者にとって便利な道具でした。しかし生成AI(GenAI)の登場は、サイバー攻撃の前提を一変させています。フィッシングは、広範に行われるものの見破りやすい迷惑行為から、致命的な精密兵器へと姿を変えつつあるのです。
これまで、フィッシングを試みる者にはさまざまな制約がありました。親しげな文面を装っても、見つけやすいミスや素人くさい書式が足を引っ張ることが少なくありませんでした。従来の電子メールセキュリティが得意とするのは、まさにこうした欠陥の検出です。個人に合わせた攻撃を大規模に仕掛けることも困難でした。GenAIは、洗練を自動化することで、技術面・言語面・運用面の制約をすべて取り払います。
攻撃者はもはや、手間のかかる個別標的型の「スピアフィッシング」と、精巧さに欠ける大規模攻撃のどちらかを選ぶ必要がありません。ごく低いコストと最小限の知識で、ボタン一つで何千人もの被害者に、きめ細かく仕立てたフィッシングメールを送りつけられます。今日の大規模言語モデル(LLM)は、あらゆる言語で洗練された文脈に沿った文章を生成し、本物らしいブランドのグラフィックや説得力のあるWebアドレスまで添えます。GenAIはこの種の犯罪を一気に大衆化し、初歩的な下調べさえできれば誰でも手が届くものにしてしまいました。
ソフトウェア開発企業KaseyaのサイバーセキュリティSVP、デイブ・バゲット氏は次のように指摘します。「AIのおかげで、フィッシングメールを見破る手がかりだった不自然な文法やスペルミスは解消され、完璧な文章に置き換わりました。こうしたメールはAIの助けを借りて、標的を極めて絞り込めます。たとえば製薬会社を狙い撃ちにして、本物の専門用語を使ったメールを作ることもできます。悪意ある側にとって、非常に強力な道具です」
この新たなAI対応フィッシングが成功した場合、危険にさらされるのは不用心な従業員1人のデータだけではありません。いったん境界を突破されれば、攻撃者はいまやグローバルな商取引と通信を支えるクラウドやSaaSのプラットフォームへと入り込めます。FBIによると、フィッシング攻撃による損失がここ数年で274%増加したのも、無理からぬことです。
この新しい電子メールセキュリティの状況は、企業のIT責任者にとって警戒すべき事態です。これほど高度な攻撃を自力で見抜く専門知識を持たない顧客に代わり、細心の注意を払わなければならないMSPにとっても同様です。
AIは防御側の味方でもある
電子メールセキュリティの最前線は、悪い話ばかりではありません。攻撃者がGenAIの使いこなしに磨きをかける一方で、防御側もAIを活用した対抗策を並行して開発してきました。従来型の防御は、GenAIがいまや解消してしまった類いの異常を見つけることに頼っていました。新しいソリューションはむしろ、文脈の分析に重点を置いています。ぎこちない誤字や怪しい添付ファイルを探すのではなく、被害が出る前に攻撃者の意図をモデル化しようとするものです。現在の防御側は、AIを使って、現代のフィッシングキャンペーンの多層的な構造に対応した微妙なパターンを分析できます。狙いは、メッセージが想定される行動パターンと一致しているかどうかを見極めることです。
これほどの精緻さが必要になったのは、現代のフィッシングが巧妙だからです。技術的に問題のないメール、つまりマルウェア入りの添付ファイルや罠を仕掛けたリンクを含まないメールでも、悪意を秘めている場合があります。現代のサイバー犯罪者は、人間の心理と信頼されたインフラを突くという単純な方法で、自動化されたセキュリティフィルターをすり抜けることが少なくありません。GenAIで強化されたソーシャルエンジニアリングは、マルウェアのペイロードよりも鋭い剣になり得ます。
フィッシングは、テキストのみのメールで上司や同僚になりすますことがよくあります。攻撃者はGenAIにLinkedInを巡回させ、転職して間もない人物を探せます。新入社員は、まだよく知らない新しい上司を装ったメールに引っかかりやすいからです。
信頼関係が築かれると、続いて緊急の送金を求められたり、給与情報やパスワードをさりげなく尋ねられたりするのが典型的な流れです。攻撃者は何通ものメールをやり取りして関係を深め、被害者を「手なずけて」から仕掛けることもできます。従来のフィルターには、何も怪しいものは映りません。この種の攻撃を見抜くには、より高度なツールが必要です。
バゲット氏は言います。「攻撃者は判断を誤りやすい人間の弱さにつけ込んでいます。だからセキュリティは、誤った判断が下されかねない瞬間に、利用者を支えなければなりません。優れた電子メールセキュリティは、ありきたりな警告の代わりに、そのメッセージがなぜ危険かもしれないのかを理解しやすい形で示し、さらなる確認の必要性を助言します」
バゲット氏によると、受信トレイはかつて受け身の配送経路にすぎませんでしたが、いまや能動的なリスク低減の層となっています。フィッシングの試みがアカウント侵害や壊滅的な金銭的損失にまで発展する前に、封じ込める役割を担っているのです。
圧倒的な非対称性
防御側も反撃に出ています。しかしバゲット氏が指摘するように、攻撃者と防御側の間には依然として圧倒的な非対称性があります。「攻撃者はLLMを実質無料で使い、完璧なフィッシングのテンプレートを作れます。一方で防御側が受信メールをすべて最先端のLLMモデルに通そうとすれば、コストは約100倍かかってしまいます。犯罪者と同じ道具を、こちらが使うわけにはいかないのです」
防御側の選択肢の一つは、大型モデルから蒸留した、より小型で特化したモデルを使うことです。たとえば小型モデルを、メール内の各フレーズの感情や意味に合わせて調整し、脅迫的な口調や頼み事を検出するよう設定できます。大型のLLMではコストがかさみすぎる場合、受信メール全体の一部だけを大型モデルに通すという選択肢もあります。バゲット氏は「管理者が、特定のメールを最先端のLLMにかける手段を持てるようにできます。そのモデルは、電子メールセキュリティの重要な側面を理解するよう訓練されているはずです」と話します。
LLM以前のツールも、もっと活用できる可能性があります。たとえばコンピュータビジョンは、デジタル画像や動画といった視覚データの処理、分析、理解を助けます。防御を強化する補助的なツールとしては、ほかにも、メールの送信元や真正性を調べる送信者分析や、埋め込まれた脅威を作動させずにメールを詳細に調べられるリンク先コンテンツの検査があります。
AI技術の進化に伴い、より安全な未来を期待できる理由もあります。バゲット氏は、推論が賢くなりモデルが改善されれば、より高い割合のメールを大規模LLMに通せるようになるはずだと考えています。ただし、実現にはまだ数年かかるかもしれません。LLMを、悪意のある可能性があるメールの検出だけでなく、既存のセキュリティツールの設定や管理コントロールの分析にも使えるという可能性もあります。そうなれば、ツールを最大限に活用するために必要な知識は大幅に減ります。
バゲット氏は指摘します。「セキュリティツールは複雑で、数百もの設定項目を備えていることがあります。なかには、お客様が持っていない専門知識を必要とするものもあります。たとえばアラート疲れを減らすなど、ツールが防御側を助けるためにやるべきことはいくつもあると考えています」
もちろん、犯罪者側も、より優れたツールを新たな目的に活用する方法を見つけるかもしれません。現時点では、攻撃の多くは人間が考案し、設計しています。しかし最終的には、この役割が、自ら新たな戦術を編み出せるエージェント型モデルに取って代わられるかもしれません。マシンが大規模な攻撃を計画し、指揮できるようになる日も近いかもしれません。
優れたツールは、いま手に入る
幸い、防御側は将来の展開をただ待ち、なすがままになる必要はありません。形勢の差を縮め、メール確認の複雑さを減らしてくれる優れたツールが、すでにいくつもあります。たとえばINKY Smart Insightsは、GenAIを使って、手作業で長時間かかる電子メールの調査を、数秒の自動トリアージに短縮します。多忙な管理者にとっては、技術的なメールの証拠が入り乱れた状態を平易な言葉の判定に変え、説得力のあるレポートの作成も可能にします。Kaseya Intelligenceと組み合わせれば、より広範なセキュリティ環境全体での意思決定も支援できます。
バゲット氏は熱を込めて語ります。「Smart Insightsは、問題を特定し、その判断理由を文章で説明します。専門的になりすぎない形で説明するので、電子メールセキュリティの専門知識がない人にも役立つツールです」
たとえば多忙なMSPは、Smart Insightsを活用して、顧客に伝えるべき重要な情報を、簡潔で理解しやすい形で提供できます。要するに、運用コストを大幅に増やすことなく、LLMの高度な能力の恩恵を受けられるのです。
GenAIを悪用したフィッシングとの戦いは、まだ勝利にはほど遠い状況です。それでも、防御側が手元にあるスマートなツールの可能性を理解している限り、攻撃者を寄せ付けず、重要な通信経路を守り抜く可能性は十分にあります。
詳細はKaseyaのCybersecurity Summitで – 詳しくはこちら
スポンサー:Kaseya
