AIはソーシャルエンジニアリングを加速させるが、ハッキングを革命的には変えていない

要点:

• AIはフィッシング攻撃の手法を根本的に変えてはいないが、誘導文の洗練には役立っていると、セキュリティ企業Intel 471が水曜日に発表したレポートで述べている。
• 複数の要因が組み合わさり、AIは革命的ではなく進化的な役割にとどまっているとレポートは指摘している。
• それでも、企業や政府のリーダーは、AIを活用した攻撃手法が増加していることに注意を払う必要がある。

詳細分析:

官民のセキュリティリーダーたちは長年懸念してきたAIがサイバー犯罪に与える影響について、しかしIntel 471のレポートは、ハッカーたちがAIを取り入れて手法を完全に刷新しようとしているわけではないと結論づけている。

「AIはソーシャルエンジニアリングの分野でゲームチェンジャーと称されることが多いが、フィッシングの文脈では、ほとんどの脅威アクターは依然として[フィッシング・アズ・ア・サービス]プラットフォームや市販のキットに頼っており、AIは主にコンテンツ作成やローカライズに使われているだけで、本格的な自動化や革新には至っていない」と研究者らは記している。

この現象の理由として、レポートは3つを挙げている：計算能力の限界、AIをハッキングツールに統合する難しさ、そして既存の手法が依然として有効であること。

AIをサイバー攻撃に組み込むには「モデルの学習や設定、攻撃インフラへの自動化、配信システムとの統合、検知回避の手法の考案」などが必要であり、これらはハッカーの利益活動の時間を奪うとIntel 471は述べている。その結果、研究者らは、サイバー犯罪者は「実装が容易で、展開が速く、実績のある」“プラグアンドプレイ型フィッシングキット”を好むと記している。

それでも、ハッカーたちは生成AIをさまざまな形で活用している。たとえば、経営者になりすます音声ディープフェイク、詐欺を自動化するAI搭載コールセンター、面接官を欺く動画ディープフェイク、被害者から多要素認証コードやクレジットカード番号を聞き出すAI音声ボットなどがある。Intel 471のレポートでは、GoogleやOpenAIのモデルを含む3つのAIモデルを使ったコールセンターや、被害者の10％からデータを盗むことに成功したと謳うAI音声ボットサービスを宣伝するサイバー犯罪者についても言及している。

しかし現時点では、「アンダーグラウンド市場でAI駆動ツールが流通している証拠は限られており、脅威アクター間の議論でも生成AIの実運用利用はほとんど言及されていない」とIntel 471は述べている。

同社は、サイバー犯罪者によるこの技術の「実用的な採用」は「まだ初期段階」であり、広範な利用には「モデルホスティングのコスト低下や、現在人気のPhaaS（フィッシング・アズ・ア・サービス）に匹敵する“最先端”AIキットの登場」が必要だと結論づけている。それでも、「ビジネスリーダーを標的としたディープフェイクによるなりすまし電話」や、「選挙、地政学的な緊張、社会正義をめぐる議論の際のAIによる偽情報の急増」が今後予想されるとも指摘している。