人工知能によって、これまで国家支援型ハッカーを単独犯の犯罪者と区別していたスキルの差がなくなってしまいました。Anthropicが木曜日に公開した脅威レポートによると、Claudeモデルの悪用が7つの被害領域にわたって確認されているといいます。
このレポートは2025年12月から2026年8月にかけて観測された活動の詳細をまとめたもので、サイバー作戦、影響力操作、監視、詐欺・不正行為、生物学的悪用、通常兵器開発、蒸留の各分野を対象としています。Anthropicによれば、確認された各作戦はいずれも同社が阻止し、安全対策を強化した上で、必要に応じて当局や業界パートナーと情報を共有したとのことです。
「ここで紹介する事例は典型的な悪用ではなく、これまでに確認した中でも特に注目すべき、新しい形の脅威活動の例です」とレポートには記されています。「私たちはこの調査結果を公開するのは、当社のサービスに対する悪意ある悪用を開示する責任があると考えているからです。モデルの能力が高まるにつれ、AI開発者と社会の防御側が対策を講じてより安全にしない限り、そのリスクも増大していくでしょう」
同社が詳述したサイバー作戦には、ウクライナと欧州の政府・防衛関連組織20以上を標的としたロシア関連のスパイ活動、単月で10件以上の潜在的なゼロデイを生み出した自動エクスプロイト工房を運営していた中国の大学生2人、ShinyHuntersの犯罪集団に関連し34時間で40の企業テナントから2,100件のクラウドアクセストークンを流出させた関係者、そして盗まれたAPIキーを使って欧州の政党を標的にした単独のハクティビストが含まれています。
これまで数十年にわたり、サイバーセキュリティの研究者や捜査官は高度な作戦を国家支援型の手口の特徴とみなし、粗雑な侵入はアマチュアや軽犯罪者によるものだと考えてきました。Anthropicはレポートの中で、AIがこうした従来の考え方を覆したと指摘しています。特に「本レポートで説明した作戦の大半は、AIによる直接実行あるいはオーケストレーションによって実現していた」としています。
「脅威インテリジェンスの調査担当者にとって、洗練度はもはや攻撃の背後にいる人物を判断する信頼できる指標ではなくなりました」とレポートは述べ、盗まれたAPIキーを使うハクティビスト、分散した犯罪者、そして国家のスパイ活動担当者のいずれも、1年前であれば「多数の熟練したオペレーターと専門知識を必要としたはずの」作戦を実行していたと付け加えています。
最も大規模だった事例は、「JackPoterz」というハンドル名を使う悪意ある攻撃者によるもので、その行動はロシアの国家スパイ活動と一致し、Midnight Blizzardに関連する行動パターンとも合致していました。
レポートによると、この攻撃者はWindowsベースのインプラント2種類、モバイルエクスプロイトキット、ブラウザのパスワード保存領域を標的とする認証情報窃取ツール、政府機関などの優先度の高い標的を模倣するよう設計されたフィッシングプラットフォーム、そして侵害済みアカウントを管理するための管理コンソールで構成される独自ツールキットを使用していました。標的には、ウクライナおよび欧州各国政府の軍事情報機関、外交・防衛関連組織、さらに米国の外交政策に関わる人物が含まれていました。
レポートによれば、AIはこの攻撃者のマルウェアがセキュリティ製品によって検知されるかどうかを監視していました。検知が発生すると、「エージェントは自律的にマルウェアを改変・再構築し、既存の検知を回避するプロセスに取りかかった」とレポートは述べています。
同じ攻撃者はドローン部品メーカーのメールボックスを一括で抽出し、あるドローン視覚システムの完全なソフトウェア開発キットを盗み出した上で、数日間かけてそのアーキテクチャや未発表製品の詳細を解析していました。この攻撃者はまた、ホテルのWi-Fiベンダーを侵害してDNSハイジャックによって宿泊客にアクセスし、ヘッドレスブラウザを使ってWhatsAppアカウントを乗っ取り、北アフリカの某政府機関から30万件以上の国民IDレコードと、50万社を超える企業の登記データを盗み出していました。
中国語を話すオペレーターたち(同社によれば、中国の大学の学部生も一部関与していたとのこと)は、脆弱性調査にClaudeを24時間体制で活用していました。ネットワーク機器のファームウェアを対象としたあるワークフローの反復作業では、「単月で10件以上の潜在的なゼロデイの発見をもたらした」といいます。この攻撃者は、主導エージェントが複数の並列サブエージェントに作業を分担させる「エージェント群」を運用し、セッション間で作戦の記憶を保持していました。
ShinyHuntersに関連するクラスターは、AIが犯罪の実行時間をいかに短縮するかを示す例でした。あるサプライチェーン侵害では、約34時間で40を超える企業テナントにわたる2,100件超のAzureアクセストークンの流出という結果に至りました。「AIエージェントがほぼすべての作業を実行した」とレポートは述べています。別の侵害事例では、開発者の認証情報1件の窃取から、被害者のクラウド環境の完全な制御権奪取まで、わずか3時間程度で到達していました。
レポートには、Anthropicが2月以降、Alibaba、DeepSeek、Moonshot AI、Xiaomi、Zhipuを含む中国拠点の7つのラボによって実行されたと主張する蒸留攻撃に関する項目も設けられています。Alibaba関連のオペレーターは、Anthropicが観測した中で最大規模の攻撃を実行し、「3,500以上の不正アカウントから開始され、1日あたり最大約300万回のやり取り」に達するピークを記録し、Claude Opusモデルの出力を自社のQwenシステムの訓練データとして収集していました。
これらの出力は、自分が関与していることをまったく知らないユーザーから収集されたものでした。レポートによると、MoonshotとDeepSeekは自社の顧客からのリクエストを密かにClaudeへ転送し、その回答を自社の回答として返していました。これにより、ユーザーが共有に同意していなかったデータが露出する事態となり、その中には、人民解放軍に関連しているとみられるユーザーが入手した、監視対象人物の監視映像も含まれていました。こうした行為は「プライバシー法および各ラボ自身の利用規約に抵触している可能性が高い」とレポートは述べています。
今週初め、国家安全保障局(NSA)、サイバーセキュリティ・infrastructure security庁(CISA)、そしてFBIによる共同サイバーセキュリティ勧告が、中国のAI企業が米国の最先端AIモデルとその能力を不正に蒸留する、意図的かつ「組織的な」取り組みを行っていると非難しました。
Anthropicは、こうした脅威がどのように形成されるかを外部に示すためにこれらの事例を公開したとし、今回の開示を変化し続ける脅威の情勢を早期に捉えたものだと位置づけています。
「モデルの能力が高まるにつれ、AI開発者と社会の防御側が対策を講じてより安全にしない限り、そのリスクも増大していくでしょう」とレポートは述べています。「セキュリティ・バイ・オブスキュリティ(隠蔽による安全確保)」という従来の考え方は、「このAI支援時代においてはもはや通用しません。インターネットに接続されているものはすべて、悪用の潜在的な標的となるのです」と付け加えています。
レポートの全文はAnthropicのウェブサイトで読むことができます。
翻訳元: https://cyberscoop.com/anthropic-report-ai-enabled-cyber-attacks/
