マイクロソフトの調査で判明：中国がAI生成コンテンツを用いて米国の分断をあおる

マイクロソフト脅威分析センター（MTAC）の新たな報告書によると、中国に関連する脅威アクターは、米国および他国で影響工作や分断の助長を目的としてAIの利用を強めている。

研究者らは、中国共産党（CCP）に関連するアクターが、物議を醸す国内問題を増幅させ、米国の現政権を批判するために、AI生成コンテンツをソーシャルメディア上で公開している実態を指摘した。

一例として、影響工作を専門とするグループ「Storm-1376」は、2023年8月に発生したハワイの山火事について、陰謀論的な言説を複数のソーシャルメディア・プラットフォームで拡散した。

これらの投稿は、米政府が軍用レベルの「気象兵器」を試験するために意図的に火災を起こしたと主張していた。Storm-1376は、燃え盛る海岸沿いの道路や住宅のAI生成画像を用いて内容をより目を引くものにし、少なくとも31言語でテキストを投稿した。

別の事例では、同グループは感謝祭の休暇中に発生したケンタッキー州の列車脱線事故について、ソーシャルメディア・キャンペーンを展開した。これらの投稿は、米政府が脱線を引き起こした可能性があり、「意図的に何かを隠している」とする言説を広めた。

Storm-1376の影響工作キャンペーンは、東アジア諸国で不和をあおることも狙っていた。これには、2023年8月に日本が処理済み放射性汚染水の太平洋放出を開始した後、日本政府を批判するAI生成ミームや画像の使用が含まれる。

これらのメッセージは、日本語、韓国語、英語を含む多数の言語で、ソーシャルメディア・プラットフォーム全体に無差別に配信された。

報告書はまた、中国に関連するアクターによる、動画内でのAI生成人物の利用拡大にも言及した。これには、中国のテクノロジー企業ByteDanceのCapCutツールを用い、サードパーティのテック企業が作成したAI生成ニュースアンカーが含まれていた。

こうしたAI生成アンカーは、2024年1月の台湾総統選挙を前に、台湾当局者を取り上げたさまざまなキャンペーンに登場した。

中国、米有権者の亀裂を試す

MTACは、米国の有権者を装った中国の「ソックパペット」が、ソーシャルメディア上で他の米国市民から政治的話題に関する意見を引き出そうとする動きが増えていることを確認した。

研究者らは、これは有権者に影響を与えるキャンペーンに活用するため、米大統領選挙を前に主要な投票人口層に関する情報と精度を収集する意図がある可能性が高いとみている。

これらのアカウントは、「ほぼ例外なく」、薬物使用、移民政策、人種間の緊張といった、米国内の分断を招く問題について投稿している。

今後についてマイクロソフトは、中国のサイバーおよび影響工作アクターが、AIを活用して、今年後半に実施されるインド、韓国、米国などの複数の重要選挙を標的にする方向で動くと予測している。

研究者らは、「この種のコンテンツが受け手を動かす影響は現時点では低いものの、ミーム、動画、音声を強化するための中国の実験は今後も続き、将来的には効果を発揮する可能性がある」と記した。

報告書で取り上げられた別の領域は、北朝鮮がサイバー攻撃を用いて収益を得るとともに、米国、韓国、日本といった敵対者とみなす国々に関する情報収集を行っている点だった。

2023年11月、Recorded FutureのInsikt Groupは、北朝鮮のハッカーが2017年以降、暗号資産を30億ドル超盗み出したと推定した。これは、同政権が兵器計画の資金を確保するため、経済制裁を回避しようとしていることを示すものだ。

マイクロソフトによれば、同社が追跡する3つの脅威アクター（Jade Sleet、Sapphire Sleet、Citrine Sleet）は、2023年6月以降、暗号資産関連の標的に最も注力してきた。

北朝鮮の脅威アクターはまた、対象期間（2023年6月～2024年1月）において、スピアフィッシングやソフトウェア・サプライチェーン攻撃によりITセクターを集中的に狙った。

例えば、グループ「Diamond Sleet」は2023年10月、TeamCityの脆弱性CVE-2023-42793を悪用し、米国および英国、デンマーク、アイルランド、ドイツなど欧州各国の多様な業界にわたる数百の被害者を侵害した。

さらに、一部の北朝鮮のサイバー活動には、米国・韓国・日本の三国同盟に対抗するといった地政学的目的もあった。

報告書によると、Ruby Sleet、Emerald Sleet、Pearl Sleetといったグループは、政府、防衛、メディアなどの分野の組織を頻繁に標的とし、これらの国々に関する情報を収集していた。

研究者らはまた、北朝鮮のアクターが作戦の有効性を高めるために、AI大規模言語モデル（LLM）の実験を継続している点も強調した。

例えば、マイクロソフトとOpenAIは、朝鮮半島の専門家を標的とするスピアフィッシング・キャンペーンを強化するために、Emerald SleetがLLMを活用していることを確認した。