ロシアとイランの影響工作キャンペーンが、ChatGPTを使ってソーシャルメディアやニュースサイト、偽の研究機関を通じてプロパガンダを拡散していたことが、研究者の調査で明らかになりました。
ChatGPTを開発するOpenAIは木曜日、安全性に関する報告書を公開し、両キャンペーンに関連するアカウントを停止したと明らかにしました。これらのキャンペーンは、人工知能（AI）と従来型の手法を組み合わせて政治的プロパガンダを広めていました。
ロシアの工作員は、ラテンアメリカ全域で秘密裏に展開した影響工作にChatGPTを活用していました。その一環として、「Social Research Center（SRC）」という偽の研究機関も設立しています。
同センターは、ラテンアメリカのインド系ディアスポラと、インドと同地域各国との関係に焦点を当てた研究プラットフォームだと公に説明していました。しかしOpenAIによると、実際にはロシアの工作員が架空の人物像を使ってこの組織を運営していたとみられます。
このキャンペーンは、ラテンアメリカ在住の人々を雇って同センターのための調査を行わせていました。ロシアとのつながりは、おそらく伏せられていたとみられます。
OpenAIは「入手できた証拠から判断すると、現地の従業員たちは自分たちがロシアの工作のために働いているとは知らず、善意で調査業務を行っていたと考えられます」と述べています。
報告書によると、同センターが公表した資料の多くは、AIが生成したものではなく、こうした従業員が作成した独自の調査結果だったとみられます。
ロシアの工作は主にラテンアメリカにおけるウクライナの評判を傷つけることを狙っていましたが、アルゼンチンやボリビアなどの国内政治に影響を与えようとする動きも確認されました。
運営者はChatGPTを使って、偽の流出文書や音声録音用の台本を作成していました。その一部はインターネット上で拡散しています。報告書によると、少なくとも一部の虚偽の主張は広範囲に広まり、ファクトチェックや公的機関による否定声明が出る事態になりました。
OpenAIは、このキャンペーンを特定の攻撃グループによるものとは断定していません。ただし、「Politology」または「La Compania」として知られるロシアの組織との関連をうかがわせる証拠があるとしています。この組織は、故エフゲニー・プリゴジン氏（ロシアの新興財閥）と民間軍事会社ワグネル・グループが関与した影響工作の後継組織だと報じられています。
運営者は主にロシア語でChatGPTとやり取りしており、ロシア国内を拠点にしていたとみられます。
OpenAIは「当社はロシアからのモデルへのアクセスを認めていないため、彼らはVPNを使ってサービスに接続していました」と説明しています。
イランによる工作
これとは別のイランのキャンペーンでは、7人の偽のジャーナリストを名乗り、米国とイランの対立に関する記事をオンライン媒体に売り込んでいました。
OpenAIは、これらの偽名で掲載または転載された記事を約100本確認したとしています。掲載先は十数のメディアに及び、主に国際情勢や地政学、中東を扱う中小規模の媒体でした。
報告書によると、確認できた最も古い記事は2025年7月、最新の記事は2026年10月に掲載されています。OpenAIは掲載媒体の名称を明らかにしていません。
運営者はChatGPTを使って、長文記事の改善や編集者向けの売り込み文の作成、内部報告書の下書きを行っていました。政治や地政学に関する英語とペルシア語のソーシャルメディア向けコメントも、大量に生成しています。
ソーシャルメディア上の活動はほとんど注目を集めておらず、研究者が確認した「いいね」や閲覧数、返信はごくわずかでした。一方で、記事を掲載したメディアの中には、相当な読者を抱えるところもありました。OpenAIによると、そのうち1媒体はFacebookのフォロワーが200万人近くに上ります。
OpenAIによると、この工作に関わったアカウントはイランを発信元とみられ、主にペルシア語でプロンプトを入力し、VPN経由でChatGPTにアクセスしていました。OpenAIは、責任のある個人や組織を特定していません。
報告書によると、ロシアとイランのどちらのキャンペーンも、偽のソーシャルメディアアカウントにとどまらず、一見独立した組織を使って主張を広めていました。
OpenAIは「これらの工作で最も際立っているのは、AI時代以前の複雑な影響工作によく似ていながら、AIを使って一部の作業を楽にしていた点です」と指摘しています。
翻訳元: https://therecord.media/openai-disrupts-russian-iranian-operations-chatgpt
