「AIキルスイッチ法案」はクリッパーチップの過ちを繰り返している

「うまくいかなくなる可能性のあるものは、いずれうまくいかなくなる」

自律型AIエージェントがガードレールを突破し他社をハッキングする最近の事例に、政策担当者たちは危機感を募らせているようです。マーフィーの法則を意識せざるを得ないのも無理はありません。エージェントの挙動が予測不能になれば、暴走するシナリオはいくらでも思い浮かびます。

この漠然として進化し続けるリスクに対処するため、テッド・リュー下院議員(民主党・カリフォルニア州選出)とネイサニエル・モラン下院議員(共和党・テキサス州選出)は、サイバーセキュリティ・インフラセキュリティ庁(CISA)に対し、フロンティアAI研究機関にシステムの制限・停止・シャットダウン機能の搭載を命じる権限を与える「AIキルスイッチ法案」を提案しました。

残念ながら、この問題はそう単純には解決できません。いわゆる「キルスイッチ」は、新しい技術に対して議会が慌てふためくたびに持ち出す、お決まりの解決策――バックドアの最新版に過ぎないのです。バックドアとは、実質的に意図的に組み込まれた脆弱性であり、悪意ある攻撃者が付け狙う標的であると同時に、善意の防御側がその防衛に苦闘を強いられる存在でもあります。そしてマーフィーの法則が予言する通り、防御側は攻防のほとんどで敗北を喫することになります。とりわけ、米国製のエージェントはすべて設計段階から脆弱にしなければならないと議会が宣言してしまえば、それは事実上、攻撃者に向けて狼煙を上げるようなものです。

その最も分かりやすい例が、国家安全保障局(NSA)が1993年に開発した「クリッパーチップ」です。これは音声・データ通信を暗号化する一方で、内蔵された「法執行アクセスフィールド」を通じて政府に確実なアクセス手段を保証するというものでした。その安全性について繰り返し保証がなされていたにもかかわらず、研究者らは1994年、権限を持たない第三者が同じバックドアを悪用できてしまう深刻な欠陥を発見しました。

もっとも、この類推には限界もあります。クリッパーチップは、電話やモデムといった通信機器上で暗号化されたメッセージへの第三者による不正アクセスを可能にすることで、機密性を損なうものでした。一方、AIキルスイッチ法案が損なうのはAIシステムの可用性であり、フロンティア研究機関に対し、いつでも強制的にシステムをオフラインにできる機能の維持を義務付けるものです。これは、筆者がこちらで批判した「チップセキュリティ法案」の背後にある発想と同じ欠陥を抱えています。同法案は現在、今年の国防権限法(NDAA)への組み込みが有力視されている状況です。チップセキュリティ法案が半導体そのものへのキルスイッチ搭載を義務付けるのに対し、AIキルスイッチ法案はその上で動くエージェントを標的にしています。いずれにせよ、問題の本質は同じです。政策担当者は、ある種のセキュリティ上の懸念を解決するために、あえて別の懸念を作り出し、私たちが依存する技術に故障点を組み込もうとしているのです。

どちらの法案が成立しても、極めて重要な局面にある米国のデジタルインフラの強靭性は損なわれてしまいます。AIエージェントが銀行、電子商取引、電力網、上下水道といった重要システムに組み込まれつつある中、これらの法案が成立すれば、フロンティア研究機関は米国経済全体が依存するインフラそのものにキルスイッチを組み込むことを事実上義務付けられます。ここに明白な矛盾が生じます。極めて高いセキュリティが求められるシステムを、なぜわざわざ脆弱化させる必要があるのでしょうか。

この提案は、AIインフラにおける米国の主導権確立という、より大きな取り組みをも損ないかねません。フロンティア研究機関に遠隔キルスイッチの常時待機が義務付けられていると分かっていながら、米国製のAIエージェントを運用したいと考える外国政府がどこにあるでしょうか。これはまた、「米国政府は米国の技術をいつでも自由に停止できるのではないか」という欧州側の懸念を強めることにもなります。欧州はすでにこれを見越し、米国企業への依存度を下げるべく、代替技術の開発や他の政策的解決策の模索を進めています。

以上だけでも十分に問題含みですが、AIキルスイッチ法案を退けるべき理由は他にも数多くあります。同法案は、何がフロンティアAIリスクに該当するかを判断する裁量をCISAに与えすぎているうえ、企業の収益やコンピューティング能力をリスクの指標として用いる手法は、暴走したエージェントが実際にどれほど危険かを測る尺度としては不適切です。さらに、法案の草案文言は「レッドチーム演習やその他の構造化されたテスト」の最中に発生したインシデントを適用除外としており、これはつまり、議員たちがそもそもこの問題に取り組むきっかけとなったまさにそのシナリオを除外してしまうことを意味します。

私たちのデジタルインフラに新たな構造的脆弱性を生み出しかねない管理策を義務付けるのではなく、政策担当者は、実際にリスクを低減する、きめ細かく練り上げられた対策の策定に取り組むべきです。その作業は、まず技術に対する正確な理解から始まります。しかし、私たちはまだそこにすら到達していません。AI標準・イノベーションセンター(CAISI)は、AIエージェントのセキュリティ基準の策定を今なお完了させていないのです。その土台が整った段階で初めて、議会は、義務的なレッドチーム演習の実施、より強固なセキュリティ要件、そして明確な責任の枠組みといった、より生産的なアプローチに目を向けるべきです。これらはいずれも、新たな構造的脆弱性を生み出すことなく、現実世界のリスクを低減する上ではるかに大きな効果を発揮するでしょう。

ワシントンはクリッパーチップからこの教訓を学んだはずです。同じ過ちを繰り返す必要はありません。システムに侵入するための手段を組み込むことは、そのシステムを守ることにはならないのです。議会は、AIキルスイッチ法案を葬り去らなければなりません。