AIが生成する選挙フェイク情報は、世論を形成し、数百万人の生活に影響を与える可能性があります。こうしたリスクに対処するため、OpenAIは2026年の選挙サイクルに先立ち、一連の安全対策を概説しました。
同社は、その取り組みが投票情報へのアクセス支援、サイバーセキュリティ防衛者のサポート、AI生成コンテンツの透明性向上に重点を置くと述べました。
「人々はすでに、市民的行事に関する実用的な質問をChatGPTに自分の言語でしています。例えば、登録方法、投票場所、締め切り、進行中のニュースの状況、または公式選挙結果の確認方法などです」とOpenAIは述べています。
今秋より米国およびブラジルにおいて、ChatGPTは開票夜に票数が報告される際、AP通信からのリアルタイム選挙結果を提供する予定です。
米国では、OpenAIはDemocracy Worksと提携し、ユーザーが選挙関連の質問をした際に、投票所の場所やその他の選挙に関する案内を含む、投票・登録情報を提供します。
「世界的に、ウェブ検索がソースリンク付きの有益な情報を表示する方法を引き続き改善してまいります」と同社は付け加えました。
研究者らは最近、生成AIシステムが特定の方法でプロンプトを与えられると選挙フェイク情報を生成できることを発見し、AIが世論に影響を与え、欺瞞的な政治コンテンツを拡散させる可能性について懸念が高まっています。
OpenAIはまた、人々がソーシャルメディア、メッセージアプリ、ウェブサイトで共有するコンテンツを作成するためにAIツールをますます活用しており、誤解を招くディープフェイクや改ざんされたメディアへの懸念が増していると警告しました。
「誤解を招く『ディープフェイク』と戦うため、私たちは多層的なプロビナンス（出所証明）アプローチへの投資を行っており、人々が目にしているコンテンツがAIによって作成または改変されたものかどうかを確認できるようにします」と同社は述べています。
先週、OpenAIはChatGPT、Codex、およびOpenAI APIを通じて生成された画像にSynthIDデジタル透かしを導入するパートナーシップを発表しました。この透かしは、スクリーンショットや画像の修正後も検出可能な状態を保つよう設計されています。
OpenAIはまた、政治的ななりすまし、有権者の投票妨害、欺瞞的な選挙運動活動へのツール使用の制限を継続すると述べました。同社はさらに、AI生成コンテンツや合成メディアに関する透明性を向上させるシステムの開発に取り組んでいると付け加えました。
ウクライナ侵攻以来、ロシアはサイバー攻撃、情報操作キャンペーン、その他の形態の圧力を通じてキーウを支持する国々を不安定化させようとしているとして、繰り返し非難されています。
昨年、ドイツの選挙を前に、ロシアと関連するボットネットワークが偽動画や捏造されたメディアレポートを拡散させ、ドイツ当局はこれを世論に影響を与えることを目的とした組織的な干渉キャンペーンと説明しました。
「悪意ある行為者による悪用を制限しつつ、人々がAIシステムを使って政治的な問題について学び、探求し、議論できることが重要であると考えています」とOpenAIは結論付けました。
翻訳元: https://www.helpnetsecurity.com/2026/05/28/chatgpt-ai-election-misinformation-deepfakes/
