OpenAIによると、イランとロシアがAIジャーナリストやシンクタンクを使い、欧米メディアに影響工作

OpenAIは木曜日、ロシアとイランによる2件の影響工作を停止したと公表しました。両者はChatGPTなどのAIツールで架空のジャーナリストや偽のシンクタンクを作り上げ、主要ニュースメディアに記事や主張を掲載させることに成功していました。

OpenAIが「Dark Clark」と呼ぶアカウント群は、ロシアの関係者によるものとされています。このネットワークは、中南米の政治や文化への影響を狙っていました。名称の由来は、AIで作られた架空の人物Mia Clarkです。グループは彼女を、中南米のシンクタンクを装う「Social Research Center」の代表として紹介し、報道にプロパガンダを紛れ込ませる手段に使っていました。

グループの発信内容は、主に中南米でウクライナの評判を傷つけるものでした。アルゼンチンやボリビアの政治的に敏感な問題にも関与していました。

OpenAIの研究者によると、工作員はChatGPTで生成したレポートの中で、従業員の賃金水準や採用・解雇の判断について議論していました。このことから、ロシアのグループは単なる従業員や傍観者ではなく、Social Research Centerを実際に支配していた可能性が高いといいます。

OpenAIはこの件を、「過去2年半に阻止した偽の身元による工作のなかで、最も複雑な試み」と評しています。

OpenAIは次のように述べています。「入手できた証拠から、中南米にいるSRCの従業員は、自分たちがロシアのグループのために働いているとは認識していなかったとみられます。OpenAIが最近公表した、ロシアとつながる別の『シンクタンク』とは異なり、SRCは取り込んだスタッフを通じて、大半のコンテンツを独自に制作していたようです」

OpenAIは、中南米の大手メディアや政府関係者によるファクトチェックや公式な否定声明をいくつも挙げています。これらはDark Clarkのプロパガンダに対応したものとみられます。

3月には、Lupa Mediaがあるが報じました。エクアドル政府がダミー会社を使い、ロシアと戦うウクライナ側に加わる市民を募集しているとする虚偽のTikTok動画です。工作員は、在エクアドルのウクライナ領事がエクアドル国民を侮辱するかのような偽の音声クリップも作成し、拡散しました。

5月にボリビアで反政府デモが起きた際には、別の偽音声クリップも公開しました。国営水道会社の職員を装い、政府が非常事態宣言を出す寸前で、ラパスへの給水を止めようとしていると語らせるものです。これを受け、ボリビア政府は公式に否定しました。

報告書は、この活動をロシア政府や情報機関の特定の組織によるものとは断定していません。ただし、工作員は、かつてエフゲニー・プリゴジンが率いたロシアの民間軍事会社ワグネル・グループの後継組織「Politology」に、特に関心を寄せていたようだと指摘しています。OpenAIによると、このグループがOpenAIのモデルにPolitologyについて問い合わせた回数は、ほかのどのロシアの組織よりも「はるかに多く」なっていました。

イランの工作では、同様のAIツールの多くを使い、米国とイランの戦争に関する記事を各媒体に売り込んでいました。工作員は少なくとも7人の架空のジャーナリストを作り出し、正規のメディアを通じて数十本の記事をオンラインに掲載させることに成功しています。ただし、記事自体にコメントやSNS上の反応はあまり集まりませんでした。

OpenAIは次のように述べています。「この工作の署名で掲載または配信された記事は、世界の約12のオンラインメディアで、100本近く確認しました。いずれも小規模から中規模のメディアで、主に国際情勢や地政学、中東の出来事を扱っています」

OpenAIは、この活動を「報酬を得て影響工作を請け負う商業的な主体」に似ていると指摘しました。一方で、特定の主体やグループによるものとは断定していません。

OpenAIが追跡している影響工作の大半は、オンラインでの自然な反応がほとんどなく、オフラインへの影響もほぼない、低インパクトなものです。影響度は1〜6の段階で評価され、1や2を超えるものはほとんどありません。

OpenAIはロシアの工作を5、イランの工作を4と評価しました。主流の読者層に届く力が格段に高かったことを示します。ファクトチェックや公式な否定が出たのも、その表れです。こうした対応は通常、ある主張が当局も否定せざるを得ないほど大きく広がったときに起こります。