- OpenAIは、ロシア発とみられるソーシャルメディア世論操作キャンペーンを摘発したと発表
- このキャンペーンの特徴は、信頼性に大きな疑問符が付く「シンクタンク」を核とした基盤構造にある
- キャンペーンの狙いは、ロシアが優れた国であり、西側諸国が自国の主権を犠牲にしているとの認識を西側の視聴者に植え付けることだった
AIツールがまたしても善ではなく悪のために使われました。今回は、ウクライナを支援する西側諸国の信用を貶めようとするロシア発とされるキャンペーンの一環としての悪用です。
脅威アクターはChatGPTのアカウントを使い、「国際バーク研究所（International Burke Institute、IBI）」と名乗る学者による「専門家コミュニティ」の活動を宣伝していました。このサイトは、盗用した学術論文を別の著者のものとして掲載し、正当性を装いながら「貢献」の本当の出所を隠そうとしていました。
IBIはイスラエルの住所で登録されており、イスラエルの実在の人物がこのサイトを代表・宣伝していたことを示す証拠もいくつか見つかっています。しかし、この偽情報キャンペーンの主な目的は、西側の敵対国と比較してロシアを好意的に描くことにありました。
国際バーク研究所か、それとも「国際的な間抜け」が運営する研究所か
このキャンペーンに関する報告書の中で、OpenAIは指摘しています。それによると、このサイトの宣伝に使われたChatGPTアカウントの背後にいる人物たちは、自分たちがロシア出身であることを隠すため入念な対策を講じていたといいます。多くのプロンプトには、操作者がロシア語でプロンプトを入力していたことを示す言語的な手がかりを隠すよう指示が含まれていました。
IBIのウェブサイトに掲載された記述の一つでは、ドイツの信号機連立政権（traffic light coalition）を「スヴェトフォル連立（Svetofor coalition）」と呼んでいました。「スヴェトフォル」はロシア語をはじめとする複数のスラブ諸語で「信号機」を意味する単語であり、原稿がスラブ諸語でまず書かれ、その後翻訳されたことを示唆しています。
一部のアカウントは、AI生成の画像やキャプションを用いてX、LinkedIn、Facebook、Substack、Telegram上でIBIを宣伝するために使われ、別のアカウントはSubstack上で実在ユーザーのコメントに自動的に反応するために使われていました。ChatGPTアカウントの運用者は、こうしたページのパフォーマンス概要をロシア語で定期的に要求しており、一部のアカウント用にはChatGPTを使って対応するプロフィール画像を生成していました。
バーク主権指数（Burke Sovereignty Index）
IBIのウェブサイトの特徴の一つが、「バーク主権指数」の宣伝です。これは、政治、経済、技術、情報、文化、認知、軍事の各要素において、ある国が他国と比べてどの程度優れているかを測定するとされるものです。
OpenAIによれば、この指数の目的は西側諸国をロシアより劣って見せることにあります。筆者自身がこの指数を確認したところ、測定や比較に一貫性がまったくないことが明らかになりました。例えば、面積が0.5平方キロメートルにも満たないバチカン市国が、平均スコアでスペインを上回っています。また、この指数では軍事スコアでロシアが最高評価を得ていました。
信憑性に疑問符が付く「専門家」たち
このウェブサイトには専門家の一覧も掲載されていますが、彼らとIBIとの関係については一切説明がありません。中にはフランシス・フクヤマ氏やノーム・チョムスキー氏といった、それぞれの研究分野の第一人者も含まれています。
マイク・ポンペオ氏やジョセフ・ナイ氏のように、かつて米国政府の高官を務めた人物も名を連ねています。さらに、シュロモ・アヴィネリ氏やチアン・ピン氏のように、IBIの設立以前に亡くなっている「専門家」まで掲載されています。
OpenAIによると、IBIのウェブサイトで引用されている学術研究の多くは実在するものですが、その大半は本来の著者から盗用され、別人の著作として偽って表示されているといいます。これは、IBIのウェブサイトに信憑性を持たせ、本物らしく見せるために行われたものです。
IBIによる世論操作キャンペーンの影響
OpenAIによれば、ソーシャルメディアとChatGPTを使ったIBIの宣伝活動による全体的な影響は、かなり限定的だったといいます。一部のTelegramチャンネルは1万人から2万人程度のフォロワーを獲得しており、実在の視聴者への波及は限られたものにとどまっていることがうかがえます。
しかし、ここで最も注目すべきは、IBIを支える基盤インフラにどれほどの労力が注ぎ込まれていたかという点です。このサイトは本物らしく見えるよう設計されており、（誤った形で帰属させているとはいえ）実在の研究を用い、専門家集団を装って自らを提示しています。一般の人がIBIのウェブサイトをざっと見ただけでも、そのソーシャルメディア上の存在感には、他の世論操作キャンペーンでは見られないほどの本物らしさが与えられていたと言えるでしょう。
