米国人はプロパガンダを信頼するよう教えられている。多くの場合、それは意図的ではない。プロパガンダと本物の研究を見分けるための古典的な助言は「引用を確認せよ」だ。出典が分析を裏づけていれば、その資料は信頼できる。だがAIがゲームのルールを変えつつある。
12月、ホワイトハウスは、政府利用のために調達されるAIツールが「真実に忠実」で「イデオロギー的に中立」であることを確保するための新たな指針を発表し、引用慣行に関する透明性も盛り込んだ。しかし、この新たな監督があっても、メモでは解決できない構造的な問題がある。権威主義国家はAIが消費しやすいようにプロパガンダを最適化している一方で、米国で最も信頼されるニュースソースはAIツールを積極的に遮断しているのだ。つまり、イデオロギー的に中立なAIであっても、自由に入手できるものがそれしかないという理由だけで、利用者を国家に沿ったプロパガンダへと導いてしまう。
AIの引用を信頼する人々は、責任ある調査をしていると信じながら、結果としてプロパガンダを信頼することになる。
多くの大規模言語モデル（LLM）は、分析とともに出典を提示する。しかし、これらのモデルは信頼性にもとづいて引用するソースを選んでいるわけではない。むしろ、入手可能性にもとづいて選ぶ。米国の主要ニュース媒体のような最良の情報源の多くは有料の壁の向こうにあるか、AIが情報を走査・収集するために用いる自動化システムを遮断している。こうした既存メディア企業は、AIユニコーン企業を相手に、個別のライセンス契約を訴訟と交渉でゆっくり進めている。
一方、権威主義国家は、自国のコンテンツをアクセスしやすいよう最適化してきた。カタールのアルジャジーラのような国営メディア、あるいは英語で発信されるロシアや中国の媒体は無料だ。その結果、ガザ、ウクライナ、台湾を理解しようとする学生、研究者、連邦政府の分析官は、独立系ジャーナリズムよりも国家支援のプロパガンダに接する可能性が高くなる。
主要3つのLLM（ChatGPT、Claude、Gemini）を分析した民主主義防衛財団（FDD）の研究によれば、現在の国際紛争に関する質問への回答の57％が、国家に沿ったプロパガンダ源を引用していた。
AIツールが、ガザ、ウクライナ、台湾を含む係争中の紛争について質問に答えるとき、膨大な学習データを参照する。完璧ではないにせよ、その回答はしばしば、どの一人の論者や単一のメディアよりもニュアンスに富む。しかしLLMは、その何億人もの利用者を、引用として提示するごく限られた一部のソースへと誘導してしまう。FDDの研究では、イスラエル・ガザ紛争に関する中立的な質問の70％がアルジャジーラの引用を生んだ。
これは些細な技術的欠陥ではない。引用は、米国人が何を信頼するよう学ぶかを形づくる「帰属のアーキテクチャ」なのだ。
西側の既存メディアにも確かに独自の偏りはあるが、編集上の偏りと国家が統制する物語には決定的な違いがある。2024年だけでも、ロシア支援のプロパガンダ集約サイトPravdaは、親クレムリンのインフルエンサーや政府報道官による記事を360万本以上インターネット上に氾濫させ、親ロシア的な物語で空間を飽和させようとした。
AIはときに情報を捏造し、いわゆる「幻覚（ハルシネーション）」を起こすことがあり、それは現実のリスクをもたらす。しかし人々に「リンクされた出典を確認せよ」と促すことは、結果として国家統制メディアへまっすぐ誘導してしまいかねない。そうしたリンクは、伝統的な意味での引用ではなく、トラフィックの誘導先だ。そしてそこで生まれるトラフィックは収益へと転化し、最終的にどのニュース媒体が生き残るかを左右する。AIプラットフォームはインターネットのトラフィックの裁定者になりつつあり、現時点では、独立系ジャーナリズムから国家統制プロパガンダへと体系的にトラフィックを振り向けている。
AI企業は、信頼できるジャーナリズムを自社システムに取り込まなければならない。質の高いジャーナリズムが生き残るには、資源と収益が必要であることに疑いはない。残念ながら、現在LLM企業とメディア各社の間で交渉されているライセンス契約は進みが遅い。遅れれば遅れるほど、引用パターンが固定化し、私たちは外国の影響力に対してますます脆弱になる。
万能の解決策はないが、寄せ集めの解決策の組み合わせが助けになる。ホワイトハウスはすでに、義務付けによって、各省庁の長に対し、AI調達を「イデオロギー的に中立」で「イデオロギー的教条に有利ではない」LLMに限定するよう求める強い姿勢を示した。米国政府に販売するベンダーは、引用が与える影響に関するデータを提示すべきだ。
利用者が引用の偏りを理解できるよう、LLMリテラシーの啓発キャンペーンが必要だ。しかし認知だけでは不十分である。AI企業は、出力において国家統制メディアの優先度を下げ、それが国家統制であることを表示すべきだ。そしてLLMが消費者向け技術から、インターネットそのもののような共通インフラへと進化するにつれ、引用パターンはAI安全性の枠組みの中で考慮されるべきである。健全な民主社会には幅広いメディアソースが必要であり、それは独立系ジャーナリズムが常に支援を必要とすることを意味する。
リア・シスキンドは、民主主義防衛財団のインパクト担当ディレクターであり、AI研究フェローである。
翻訳元: https://cyberscoop.com/the-quiet-way-ai-normalizes-foreign-influence/
