英国議会議員、危険なAIモデルを停止できる権限を持つAI監視機関を要求

ai and ml

議会の委員会は、AIの安全性に関してテック大手に「自己採点」を任せるべきではないと指摘しています

英国の国会議員らは、OpenAIやAnthropicといった企業に「やりすぎ」の線引きを委ねるのではなく、危険なAIモデルを停止させる権限を持つ監視機関の設置を求めています。

水曜日の公表に先立ってThe Register に共有された報告書で、議会の委員会は「AI安全・セキュリティ法案」の制定を呼びかけています。この法案は、モデルの開発段階から監視機関が介入できる権限を与えるものです。

監視機関は、リスクが抑え込めない場合、リスクの高い訓練やテストを中止させたり、展開を阻止したり、AIサービスを停止させたりできます。大規模言語モデル(LLM)は数十億もの学習済みパラメータで訓練されており、開発者でもあらゆる状況でモデルがどう振る舞うかを常に予測できるわけではありません。 

この提言をまとめたのは、議会の「ビジネス・イノベーション・科学・貿易委員会」です。委員会は、研究者や元AI企業従業員のほか、OpenAI、Google DeepMind、Anthropic、Metaの代表者から聞き取りを行いました。

4社はいずれも、安全でないと判断したモデルは公開しないと議員らに約束しました。ただ問題は、各社の安全性の物差しが同じではないことです。しかも英国法は、公開前に第三者の意見を求めることを原則として義務づけていません。

委員長のリアム・バーン議員は「現在のAI業界のリーダーたちに、現代のフランケンシュタイン博士のように、誰にも制御できない危険を生み出す自由を無制限に与えるわけにはいきません」と述べました。

航空、医薬品、原子力の安全分野と同じく、英国政府はメーカーの保証だけに頼ろうとしていますが、規制が必要だという立場です。  

バーン議員は「公聴会では、第三者による検証、インシデント報告、危険なシステムを止める権限のそれぞれに欠陥があることが明らかになりました。一度公開されたモデルは、確実に回収できるとは限りません」と述べ、「保護は、システムの構築とテストの段階から始めなければなりません」と付け加えました。

委員会の報告書「Guardrails for Growth: Making AI Safe」は、英国のAI安全対策に10の穴があると指摘しています。インシデント報告の義務がないこと、第三者のテスト担当者によるアクセスが限られていること、内部告発者の保護が不十分なことなどです。

英国にはすでにAIセキュリティ研究所(AISI)があり、世界屈指の高性能モデルをテストして実績を築いてきました。しかし、その活動は企業の自発的な協力に頼っており、安全上の懸念があるモデルの公開を止める権限はありません。

議員らは、AISIにはテスト業務を続けさせ、執行は別の規制当局が担うよう求めています。高リスクに指定されたシステムの開発者は、安全性の主張を裏づける証拠を示し、独立した研究者が検証できるようアクセスを提供しなければなりません。モデルの能力や安全対策に大きな変更があれば、追加の審査が行われます。

元AI企業従業員も議員らに対し、安全上の懸念を声に上げるには代償が伴うことがあると証言しました。厳しい契約条件、商業的な圧力、金銭面の不利益が、従業員の発言をためらわせる要因になっていると、委員会は聞き取りで把握しました。議員らは、内部告発者への法的保護の強化と、AIインシデントやヒヤリハットの報告義務化を求めています。

この問題には、かなりの経済的利益もかかっています。委員会はOECDの生産性推計を用いて、AIにより英国経済が今後10年で最大4,000億ポンド拡大する可能性があると試算しました。また、AISIですでに培った専門知識を土台に、AIモデルの第三者テストで英国が収益を上げる機会もあると見ています。議員らは、安全対策を強化すれば、企業、とりわけ中小企業がAI技術を導入しやすくなると主張しています。

バーン議員は「AI企業には安全性の主張を立証することを義務づけなければなりません。独立した専門家がそれを精査できるようにし、リスクを抑え込めないときは規制当局が介入する権限を持つ必要があります」と述べ、「議会に責任を負う閣僚が、国民にどのようなリスクの負担を求めるのかを決めなければなりません」と語りました。

議員らは、次の議会会期中に新法を成立させるよう求めています。また、英国は2027年のG20議長国の機会を活用し、AIのテスト、インシデント報告、リスクの高いモデルの公開に関するより厳格なルールへの各国の賛同を取りつけるべきだとしています。

閣僚が、AI開発を止める権限を監視機関に与える用意があるかどうかは、また別の問題です。委員会の提言に拘束力はなく、政府は提案された法案への取り組みをまだ約束していません。®


翻訳元: https://www.theregister.com/ai-and-ml/2026/11/18/uk-mps-want-ai-watchdog-with-power-to-pull-the-plug-on-dangerous-models/5310567

本記事は theregister.com の記事を翻訳・要約したものです。