OpenAIは、イスラエルのシンクタンクを自称する組織を宣伝し、ロシアに有利な言説を広め、複数の主要SNS上で学術的な正当性を装うためにChatGPTが悪用されていた、秘密裏の影響力工作を摘発しました。
同社は、International Burke Institute(IBI)を中心に構築されたより広範なネットワークからAI生成の投稿の出所をたどり、ロシア発である可能性が非常に高いと判断した一連のアカウント群を停止しました。
ChatGPTは主にSNS向けコンテンツの作成・推敲に利用されており、この工作全体としては、欺瞞的なブランディング、研究成果の盗用、虚偽の著者表示、プロキシインフラ、そしてX、Facebook、LinkedIn、Telegram、Substackにまたがる連携した拡散手法が組み合わされていました。
OpenAIによると、工作員たちはロシア語でプロンプトを入力していたにもかかわらず、生成されたコメントや投稿の大半は英語だったといいます。
工作員たちは、ロシア人による執筆を示す言語的な痕跡を隠すよう、モデルに対して明示的に指示していました。これは、コンテンツをターゲットとする読者にとってネイティブが書いたものであるかのように見せかけるための、影響力工作でよく用いられる作戦保全上の手法です。
OpenAIはロシアからのモデルへのアクセスを許可していないため、工作員たちはVPNサービスを利用してアクセスしたとされています。
この工作の中心にあったのがIBIで、自らをイスラエルを拠点とする「専門家コミュニティ」だと称していました。
そのドメインは2025年2月に登録されており、著名な学術関係者、各国レポート、独自の「主権指数」を掲げる政策研究機関として振る舞っていました。
OpenAIの研究者らによると、この工作は、生成AIが偽情報の唯一の発生源としてではなく、むしろ工作を加速させる手段として機能し得ることを示しているといいます。
明らかになったChatGPTの悪用実態
OpenAIの調査により、この見せかけの体裁は、正規の情報源からコピーされたコンテンツに大きく依存しており、複数のケースでは無関係の学者の名前が虚偽に使われていたことが判明しました。
コンテンツの「ロンダリング」とも言える手口の規模は看過できないものでした。OpenAIが調査した、2025年9月から2026年5月にかけて公開された専門家名義のIBI記事36本のうち、34本が他のインターネット上のソースからのコピーだったのです。
中国・パキスタン経済回廊(CPEC)に関するある記事は、Cambridge University Pressのオリジナル記事からコピーされたとみられますが、南アジア政治を専門とするノッティンガム大学の教授の著作であるかのように誤って表示されていました。
中国・パキスタン経済回廊に関する別の記事も、Cambridge University Pressの出版物からコピーされたとみられるものの、実際とは異なる学者の名前が著者として表示されていたと報告されています。
移民ガバナンスに関する別の記事は、Migration Policy Instituteの論文を転用したとみられるものですが、専門分野が食品化学であるオーストラリアの教授の著作として表示されていました。
こうした手口は、正規の研究成果を影響力工作インフラの「信頼性を担保する層」に変えてしまう点で重大です。
工作員たちは、明らかに捏造とわかる報告書を作成する代わりに、信頼のおける資料を流用し、著者名を書き換え、イデオロギー色の強い分析で周囲を固めた上で、出来上がったウェブサイトをSNS上での拡散先として利用することができます。
これにより、正規の学術研究が転用され、欺瞞的な組織としてのアイデンティティを裏付けるために利用される情報エコシステムが生まれます。
IBIの「主権指数」は、この工作における主要な言説形成の手段だったとみられています。この指数はロシアを称賛する一方で、米国、フランス、ドイツ、そして欧州連合(EU)については、政治的に弱体化している、経済的に従属している、あるいは外部勢力に隷属していると描いていました。
OpenAIは、この指数をこの工作における最も注目すべき特徴だと説明し、これほど手の込んだ疑似シンクタンクの枠組みを構築していたロシア関連の影響力工作ネットワークを摘発したのは今回が初めてだと述べています。
この工作ではまた、実在するSubstackユーザーへの返信を作成するためにもChatGPTが利用されており、IBIのチャンネルをフォローするよう呼びかける文言が頻繁に挿入されていました。
これとは別に、工作員たちは「Lahme Ente(レイム・エンテ、意味は「レームダック」)」という名称のTelegramチャンネル向けに、ドイツ語のコンテンツを生成していました。このチャンネルは、ウクライナ、EU、ドイツ政府を批判する一方で、ロシアとの関係強化を訴えていました。
別のアカウントは、ドイツ、米国、フランス、ポーランド、トルコの読者層を狙った約12のTelegramチャンネルのロゴを作成した上で、これらのチャンネルの活動内容をロシア語で要約するよう指示していました。
OpenAIは、この工作の直近の影響範囲は限定的だったと評価しています。ほとんどの投稿の閲覧数はわずかで、IBI公式アカウントの登録者数も少数にとどまっていましたが、関連するTelegramチャンネルは総じて1万人から2万人のフォロワーを抱えていると自称していました。
OpenAIはBrookings Institutionの「Breakout Scale」を用いて、この工作をカテゴリー3の下位に位置づけました。これは、複数のプラットフォームにまたがる活動で、実在する読者との接触を示す証拠がいくらか見られる、というレベルに相当します。
とはいえ、この工作は工作手法における変化を示すものでもあります。AIを活用することで、影響力工作の実行者はメッセージの現地化、プラットフォームごとに最適化されたエンゲージメントの創出、ビジュアルブランディングの作成、そして多言語にまたがるなりすまし人格の維持を、より低いコストで行えるようになっています。
この脅威は、単なる合成テキストの生成にとどまりません。偽の権威を作り上げ、読者を統制されたチャンネルへと誘導し、国家寄りの言説を正常なものとして定着させるよう設計された、多層的なエコシステムにAIが組み込まれている点にこそ本質があります。
★ 削減すべきセキュリティツールはどれか?1ページでスコア化 – 「継承されたセキュリティスタック」ガイドをダウンロード
クラウドセキュリティサービス
翻訳元: https://gbhackers.com/chatgpt-abuse-exposed/
