- 英国の議員らが「キルスイッチ」法の導入を提案、暴走するAIを止める狙いで、重要インフラへのリスクを理由に挙げている
- クレメント=ジョーンズ卿とアレックス・ソベル下院議員が修正案や新法案を推進、擁護団体ControlAIが後押し
- 米国でも同様の動きが浮上
サム・アルトマン氏によるAIの恐怖を煽るようなマーケティング戦略が、どうやら裏目に出たようです。英国をはじめ各国の複数の議員が今、「キルスイッチ」法の導入を求め始めています。
BBCによると、自由民主党のティム・クレメント=ジョーンズ卿は「サイバーセキュリティ・レジリエンス法案」に対する修正案を提出しました。この修正案は、英国に「重要な安全網」を設けることを目的としており、「暴走するシステムが国の重要インフラを脅かす前に停止させる」ための、民主的な説明責任を伴う手段を提供するものだとされています。クレメント=ジョーンズ卿は、この機能はあくまで最後の手段として使用されるものだと強調しています。
BBCによれば、この法案は現在、英国議会で審議が進められています。
懸念すべき理由はあるのか
AIに一定の制約を課そうとする動きは、これだけではありません。労働党のアレックス・ソベル下院議員も、今月中に「AIセキュリティ法案」を提出する予定だとされています。BBCによると、この法案が成立すれば「超知能AIの開発を事実上停止させる」ことになり、英国はG7諸国の中で初めてこうした措置を講じる国となります。
この法案は、先進的なAIがもたらすリスクに焦点を当てる英国の非営利擁護団体、ControlAIによって支持されています。同団体の創業者兼CEOであるアンドレア・ミオッティ氏は、以前AI安全性企業のConjectureに在籍していた人物です。一方、大西洋の対岸である米国でも、議員らが「AIキルスイッチ法案」の検討を進めていますが、こちらはまだ非常に初期の段階にあります。
2021年に最初のChatGPTモデルが登場して以来、AIが人類にとって正味プラスになるのか、それともマイナスになるのかをめぐる論争が続いています。この技術の発見は蒸気機関に匹敵するものであり、私たちの生活を想像もつかないほど大きく変えるだろうと主張する声がある一方で、雇用の喪失や経済の崩壊、人間性や感情が失われたディストピア的な未来を恐れる声も存在します。
ChatGPTや、ある程度はClaudeについても、そのマーケティング施策が事態を悪化させている面があります。両社はサイバーセキュリティに特化したモデルを開発していますが、これらは一般公開するには「危険すぎる」と宣伝され、ごく一部の組織にのみ提供されてきました。こうした宣伝文句には懐疑的な見方もあるものの、多くの人々はこれらのモデルが銀行や重要インフラ、通信網のセキュリティを著しく損なう恐れがあると懸念しています。
