OpenAIの脅威インテリジェンスチームは、中国との関係が疑われるグループによるオンライン上の活動として、互いに異なる2つのクラスターを追跡しました。これらのグループは、AIやデータセンターといった対立を招きやすいテーマをめぐって怒りを煽ることを目的とした投稿を行っていたとみられています。
「データセンター便乗（Data Center Bandwagon）」と名付けられた最初のグループは、ChatGPTを利用して画像やSNSコメントを作成し、データセンターの建設ラッシュがアメリカ人の電気代を押し上げているという主張を拡散しました。
もう一方のグループは、同ツールを使って画像やオンライン投稿を制作し、関税を各国が世界的な技術覇権を握るための隠れた手段として描き出しました。OpenAIによれば、このグループが入力したプロンプトは、こうしたコンテンツにドナルド・トランプ米大統領のみを登場させ、同様に関税を活用しているはずの習近平・中国国家主席は意図的に除外するよう指示していたとのことです。
いずれのケースでも、OpenAIは工作の実行者が「中国を起源とする可能性が高い」と述べています。データセンター反対コンテンツは、中国の複数の地方政府と契約を結ぶ中国テクノロジー企業（名称非公開）に辿り着きました。また両グループはVPNを使って接続制限を回避し、簡体字中国語でChatGPTにプロンプトを入力し、英語と中国語の両言語での出力を求めながら、XやYouTubeなどのSNSプラットフォーム上でアメリカ人を装って活動していました。
「これは、実在する国内論争に便乗し、アメリカ人を装った偽アカウントを使ってその議論を操作しようとする、外国による影響工作の典型例と言えます」と、OpenAIの主任調査員でレポートの執筆者でもあるベン・ニムモ氏はコメントしています。
なお、OpenAIは米国内でのデータセンター建設に向けて数億ドルの資金調達を目指してきた当事者であり、中立的な立場にはありません。ただし、このレポートは、同国でのデータセンター反対論が外国のオンラインプロパガンダによって生まれたり後押しされたりしているとは主張していません。
これらのキャンペーンが、自身の拡散ネットワーク以外で大きな注目を集めた形跡はほとんどありません。第三者による反応は、影響工作の実効性を測る指標として不完全ながらも重要な意味を持ちます。OpenAIは今回の各キャンペーンを、ブルッキングスのブレイクアウトスケールで1および2と評価しました。この評点は、1つ以上のプラットフォームでの活動は確認されたものの、ターゲットとした受け手層からの意味ある反応は確認できなかったことを示します。
また、国家が後援する影響工作を研究する専門家らは、こうしたグループが大局的な不安定化という目的に適う限り、国内で自然発生した運動やメッセージに乗じて拡散を図ることをいとわないと指摘しています。
さらに、AIやデータセンターへの国民的な怒りのように、すでに有機的な勢いを持つ既存の論調に便乗することで、影響工作がより効果的に見えるという指摘もあります。
AIツールを活用すれば、こうしたインターネットコンテンツを大量生成することは可能ですが、実際に注目を集めることは少ないのが実情です。中国の関係者が使用した画像の中には、作りが粗雑だったり、英語表現やネット上での拡散力への理解不足を露わにするほど直接的なメッセージを含むものもありました。
「はっきりと申し上げたいのですが、今回は影響工作が議論を作り出したわけではありません」とニムモ氏は語ります。「議論はもともと存在していました。中国からの影響工作がそこに介入しようとしたのです。成功した兆候は見られませんでした。」
同氏はさらに、こうした見方は賛否両側の多くの参加者が「合理的に」かつ「真摯に」抱くものではあるとしつつ、「我々が望まないのは、外国の秘密の影響工作がアメリカ人を装って議論を誘導しようとすること、そして自分たちが攻撃対象とするAIそのものを利用した影響工作です」と述べました。
OpenAIのレポートによると、工作員たちはChatGPTを使い、SNSキャンペーンに関する作戦保全上の詳細を含む業務報告書の編集も行っていました。その内容には、「継続的で信頼性の高いアカウントの確立」「地域別の閲覧者リーチ拡大のための視覚的に訴えるコンテンツ制作」「プラットフォームの取り締まりを見越した長期的なアカウント維持」などの目標が記されていました。
ChatGPTに入力された別のレポートでは、Facebookのコンテンツエコシステム、グループ、ページ、ハッシュタグ、広告ツール、レコメンデーションシステム、通報機能を最大限に活用する方法に加え、Metaによる協調的な不正アカウントの検出を回避する戦略も論じられていました。
関税をめぐるキャンペーンでは、ChatGPTを使って英語のほかイタリア語・日本語・繁体字中国語による短いコメントや漫画も作成されており、米国が同盟国への義理よりも利益を優先しているとして非難する内容でした。OpenAIは、自社もX上で同一ネットワークから大規模なユーザーデータ侵害を主張する影響工作の標的にされたと述べており、ニムモ氏はこの侵害について「実際には起きていなかった」と語っています。
OpenAIは、これらのキャンペーンが中国を起源とする可能性が高いとしながらも、中国政府や同政府のために動く工作員への直接的な帰属は示していません。ただし、キャンペーンの多くの部分や手法が、中国政府がオンラインで展開してきた既存のプロパガンダ活動と重なると指摘しています。
翻訳元: https://cyberscoop.com/openai-china-influence-campaign-chatgpt/
