商用大規模言語モデル（LLM）がメキシコの水道・下水インフラ提供企業を標的としたサイバー攻撃の一部として使用されたと、Dragosのサイバーセキュリティ研究者が警告しました。
水道インフラ提供企業のIT環境の「重大な侵害」が、組織の運用インフラ（OT）への攻撃の試みにエスカレートしたと、5月6日に発表されたDragosレポートで述べられています。
この調査により、攻撃者がAnthropicのClaude AIとOpenAIのGPTモデルを使用してキャンペーンの計画と実行を支援していたことが示唆されています。
メキシコモンテレイ首都圏の水道施設へのサイバー攻撃は、2025年12月から2026年2月の間に発生しました。
Dragosは攻撃に関連する350の成果物を分析し、その大部分は侵入中の攻撃ツールとして使用されたAI生成の悪意あるスクリプトでした。彼らは、敵対者がキャンペーンを支援するために商用利用可能なツールを活用していたことを発見しました。
帰属は不明なままで、公開されている名前付き脅威行為者は特定されていません。
攻撃をより速く実行するために悪用されたAI
AnthropicのClaude AIは「侵入の主要な技術実行者」として使用され、プロンプトと応答のやり取り、侵入計画、および悪意あるツールの開発と展開を処理していました。
一方、OpenAIのGPTモデルは、Dragosが「分析的役割」と説明したもの、および収集されたデータの処理とスペイン語での出力生成のために使用されていました。
AIモデルは、キャンペーンをより速く効率的に実行するのを支援するために展開され、攻撃者は何が機能し何が機能しなかったかに基づいて、リアルタイムで技術を改善することができました。
Dragosによると、Claudeは水道施設のSCADAシステムに関するベンダー文書を分析するためにも展開され、システムへのブルートフォース攻撃のためのデフォルトおよび既知のログイン認証情報のリストを生成するためにも使用されていました。
OTシステムの侵害は最終的には失敗に終わりましたが、DragosはこのAI支援キャンペーンが、商用AIモデルがどのように悪意のある脅威行為者に悪用される可能性があるかについての警告として機能すべきであると指摘しました。この場合、攻撃者はOTを標的にした経験がないように見えました。
「この調査は、OT対象化に関する事前の目的がない敵対者が、OT環境を特定し、OTインフラへの実行可能なアクセス経路を開発および改良するのを、商用AIツールがいかに支援したかを示しました」とDragosの准主任敵対者ハンターであるJay Deenはブログ投稿に書きました。
「これらの知見は、侵入支援として商用AIツールの採用がOTを既にIT内で活動している敵対者に対してより可視化させた方法を示しています」と彼は付け加えました。
OTへのサイバー攻撃に対抗するために、Dragosは、セキュリティチームが安全なリモートアクセスポリシーが導入されていることを確認し、OT環境への不正な進行を制限するために強力な認証制御が適用されることを推奨しました。
Dragosの研究は、メキシコの政府およびインフラ運用者への攻撃についてのGambit Securityの以前の研究に基づいており、数百万人の個人データを露出させていました。
「Gambit Securityで説明されたOpenAI以外のモデルを使用してメキシコ政府機関に対して実行された攻撃キャンペーンについて私たちは認識しています」とOpenAIのスポークスパーソンはInfosecurityに語りました。
「また、GPT-4.1 APIが侵害されたシステムから収集されたコンテンツの分析と要約のために並行して使用されたことについても認識しています。このタイプの大規模データ分析は本質的にデュアルユースであり、正当なセキュリティおよびインシデント対応ワークフローをサポートすることができます。」
OpenAIは、不正な活動に関連するアカウントがサービスから禁止されたことを付け加えました。
InfosecurityはコメントのためにAnthropicに連絡しています。
翻訳元: https://www.infosecurity-magazine.com/news/llm-critical-infrastructure/
