連邦取引委員会(FTC)は、AIシステムにおけるイデオロギー的偏向の規制に乗り出そうとしており、この問題をめぐって州法に対する連邦の統制権を主張しています。この動きに対しては、政治的立場を問わずあらゆる方面から批判の声が上がっています。
先月公表された政策声明案の中で、FTCはAIシステムにおけるイデオロギー的偏向を、FTC法第5条が定める「不公正かつ欺瞞的な慣行」として扱うことを検討していると明らかにしました。
同委員会は、消費者はAIシステムが偏向やイデオロギー的操作のない情報を提供してくれると期待している、と主張しています。こうした偏向を不公正または欺瞞的な慣行と定義すれば、AIアルゴリズムを支える学習データや入力情報そのものを規制できる可能性が出てきます。ただし、FTCがこれらのシステムにおけるイデオロギー的偏向の有無をどのような基準で判定するのかについては、文書内で十分な説明がなされていません。
さらにこの声明では、FTCはこの規制権限が州のAI法に優越するとの考えを示唆しています。具体的に名指ししているのがコロラド州AI法で、同法はモデルのリリース前にリスク評価、透明性に関する開示、そして「偏向監査」を義務付けています。同州の議員たちは現在、2027年に法律が施行される前に、この監査規定を先送りまたは撤廃しようと動いています。
CyberScoopは、FTCのこの提案を批判する数十件のパブリックコメントに目を通しました。イデオロギー的に近い立場の人々からも、主に2つの懸念が示されています。1つ目は、この提案が連邦政府がAIの欺瞞行為をどこまで規制すべきかという本質的な問題から目を逸らさせているという点。2つ目は、AIモデルの出力に対する政治的検閲への道を開くパンドラの箱になりかねないという点です。
ホワイトハウスのデジタル担当官を務め、国土安全保障省(DHS)のAIコープで副ディレクターを務めた経歴を持つリア・シスキンド氏はCyberScoopの取材に対し、AI企業は消費者に対する義務、特に自社モデルが正確な情報を提供し、意図的な操作から利用者を守る責任を負っているかどうかという、正当な問いに直面していると語りました。
シスキンド氏はこれまでの研究で、大規模言語モデルの回答において権威主義的なプロパガンダが過剰に représent される傾向があることを指摘してきました。これは一部、各国政府がAIシステムに取り込まれるデータを意図的に汚染しようとする工作によるものだといいます。
「モデルにおける偏向と正確性、そしてそれが欺瞞に当たるかどうか……LLMが吸収し、今や反映するようになった偽情報にどう対抗すべきか、という点については非常に興味深い議論があります。しかし、この声明はそうした問題には一切踏み込んでいません」と、現在は民主主義防衛財団(FDD)のシニアAIフェローを務めるシスキンド氏は述べています。
シスキンド氏によれば、FTCの声明が主眼を置いているのは、むしろAI規制をめぐる州との権限争いと、「どちらのAIモデルがより『ウォーク』(過度に政治的配慮的)かという、些末な言い争い」に過ぎないといいます。同氏は、この政策声明が根拠として挙げる法的権限についても、その妥当性に疑問を呈しています。
「私の見方では、FTCの役割は消費者保護違反を取り締まることであって、AIシステムそのものを規制することではありません。議会によるAI規制が存在しないという状況を、FTC法第5条を本来の役割をはるかに超えて拡大解釈することで補おうとしているように見えます」と同氏は語りました。
さらに、この政策声明の文言や引用元を見ると、FTCが特定の種類のイデオロギー的偏向を、他の偏向よりも強く問題視していることがうかがえます。
トランプ政権とAIのガードレールや自社技術の軍事利用をめぐって対立してきたAnthropicは、脚注に6回以上登場しており、その多くがFTCが是正しようとするイデオロギー的偏向の具体例として取り上げられています。
一方でこの声明は、アメリカのAI企業のオーナーが自社モデルのイデオロギーに直接影響を及ぼしているわかりやすい事例、すなわちイーロン・マスク氏とxAIが保有するGrokモデルについては触れていません。マスク氏は、自身が所有するSNS上でしばしば公然と、Grokの回答が気に入らない場合に自ら介入していることを認めています。こうした介入は、南アフリカの人種関係や「メカヒトラー」という呼称をめぐる問題など、特定のトピックに関するGrokの出力を形作ってきており、現在ではモデルの回答にマスク氏個人の見解が反映されるようになっています。
しかし、この文書にはマスク氏もxAIも一切登場しません。Grokについて触れているのは唯一、ある広告文を引用した脚注のみで、そこでは「推論、コーディング、視覚処理における高度な能力を備えた、フィルターのかからない回答を提供する、あなたの真実を追求するAIコンパニオン」とGrokが宣伝されています。
政治的立場を超えて広がる批判
FTCはこの提案に対し、業界団体、シンクタンク、専門家個人、連邦議会議員などから300件を超えるコメントを受け取りました。多くのコメントは、この提案が定義が曖昧で政治的動機による検閲に悪用されかねないと批判している一方、AIシステムの偏向に対するより強力な規則を支持する声も一部にありました。
国際法・経済センター(ICLE)は、この声明が「FTCが欺瞞に関する権限をAIにどう適用するのかについて、実務上の指針をほとんど示していない」と指摘し、AI事業者が自ら合衆国憲法修正第1条によって保護される活動を行っている可能性がある場合の扱いなど、難しい論点にもほとんど答えていないと述べています。
ICLEは声明の中で、「『イデオロギーに動機づけられた歪曲』への焦点は、委員会の懸念がマーケティングにおける事実の誤表示にとどまらず、修正第1条による最も強い保護を受けうる言論にまで及ぶことを示唆している」と記しています。
ホワイトハウスの上級顧問スティーブン・ミラー氏が設立した保守系非営利団体アメリカ・ファースト・リーガル財団は、FTCに対しこの政策を「全面的に」採用するよう求め、OpenAIやAnthropicの最先端モデルが「あたかもそれが真実に根ざした客観的で中立な立場であるかのように、イデオロギー的にリベラルで進歩主義的な価値観を優先するようにプログラムされている」と主張しています。
同団体はさらに、こうしたモデルのイデオロギー的な出力を規制することはFTCの法的権限の範囲内にあると主張しています。その根拠は、有用性や信頼性を謳って宣伝されるモデルがリベラルなイデオロギー的見解を優先することなど、「合理的な消費者」であれば想定しないはずだ、というものです。
「AI企業の広告における表現を踏まえれば、合理的な消費者は、AIシステムが圧倒的にリベラルな立場を取ることで結果に偏りが生じたり、侮蔑的な言葉を口にするくらいなら地球を滅ぼすことを選ぶような道徳的枠組みを採用したりするとは想定しないはずです」と、アメリカ・ファースト・リーガルのシニアカウンセルであるエミリー・パーシバル氏は記しています。
しかし、他の保守系団体からのコメントは、こうした論拠に疑問を投げかけています。Rストリート財団のスペンス・パーネル氏とアダム・シーラー氏は、「消費者の期待という論拠は通常、本来存在すべき情報が欠落している場合に用いられるものだ」と指摘しています。
「多くのLLMはすでに(出力に関する)開示文を備えていることを踏まえると、FTCが消費者が製品について欺かれたことを明確に立証できる可能性は低いだろう」と、パーネル氏とシーラー氏は記しています。
ジョシュ・ゴットハイマー下院議員(民主党・ニュージャージー州選出)とマイケル・ローラー下院議員(共和党・ニューヨーク州選出)は、人種、宗教、性別、年齢その他連邦法で保護される属性に基づいてモデルが利用者を差別しないようにするといった、公民権に関わる取り組みについてはFTCの監視対象から除外するよう求めています。
「AI企業は公平性の名の下に事実を偽ってはなりませんが、同時に差別、ステレオタイプ、不平等な扱いを防止する義務も負っています」とゴットハイマー、ローラー両議員は記しています。「FTCが最終的な政策枠組みの下でも、こうした取り組みが引き続き認められるようにする方法について、ぜひ説明していただきたい」としています。
しかし、政治的立場を超えて最も広く共有されていた懸念は、FTCがこうした先例を確立することで、トランプ政権や将来の政権がAIシステムを自らの政治的見解に沿うよう作り変えることを可能にしてしまうのではないか、というものでした。
ケイトー研究所のデイビッド・インセラ氏、ジェニファー・ハドルストン氏、フアン・ロンドーニョ氏は、FTCの声明がAIシステムにおけるイデオロギー的偏向と、マーケティングにおける事実に基づく欺瞞という、本来別個の2つの問題を混同していると指摘しています。
「言い換えれば、FTCはAIモデルの正確性や性能という、本質的には主観的な2つの変数を、サプリメントの効能に関する表示や、適切な通知や同意なしに利用者に料金を請求する行為を評価するのと同じ手法で判定しようとしているのです」と3氏は記しています。「これはあまりにも不合理な比較です。」
翻訳元: https://cyberscoop.com/ftc-regulating-ai-ideological-bias/
