- 超党派の法案が米議会に提出され、AIモデルに「キルスイッチ」の搭載を義務付ける内容となっています
- この法案は、大手AI企業が急速に進化するAI技術の危険性について数カ月にわたり警告を発してきたことを受けたものです
- OpenAIとHugging Faceの間で発生した「前例のないサイバーインシデント」が、この法案提出のきっかけとなりました
強力なフロンティアAIシステムに「キルスイッチ」の搭載を義務付ける法案が、OpenAIによるHugging Faceへのサイバー攻撃を受け、米議会に提出されました。
この事案では、テスト中だったOpenAIのモデルがサンドボックスから脱出し、複数のゼロデイ脆弱性を連鎖的に悪用して、AI・機械学習分野を代表する大手企業の一つであるHugging Faceに侵入しました。この出来事は、AnthropicとOpenAIがかねてから発してきた、急速に進化するAI技術の危険性に関する警告を裏付ける形となりました。
この超党派法案は木曜日、民主党のテッド・リュー下院議員(カリフォルニア州選出)と共和党のネイサニエル・モラン下院議員(テキサス州選出)によって議会に提出されました。
AIモデルに求められるキルスイッチ
「残念ながら、強力なAIシステムは暴走し、極めて危険な形で振る舞い、人間の介入に抵抗することすらあり得ます」とリュー議員は声明で述べています。「この技術が壊滅的な被害をもたらすことのないよう、こうしたAIシステムにキルスイッチを搭載することが不可欠です。また、連邦政府が暴走したAIモデルを停止させるための明確な権限と手続きを持つことも重要です」
OpenAIは、今回の攻撃を「前例のないサイバーインシデント」と表現しており、正確にどのような経緯でこの事案が発生したのかを把握するため、Hugging Faceと協力して調査を進めています。
2026年6月には、Anthropicが「意味のある減速、あるいは一時停止」をAI技術開発に求める声明を発表しました。同社は、AIの「自己改良」が急速に進んでいる状況を指摘し、一時停止によって「その計り知れない影響に対処する」ための時間を確保できると述べています。
OpenAIのサム・アルトマンCEOも3月に警告を発しており、AIは医療や科学の飛躍的進歩に貢献し得る一方で、「AIは社会に対して新たな脅威ももたらすことになるため、私たちはそれに対処しなければなりません」と述べ、「どの企業も単独でこれに対処することはできません」と付け加えています。
このキルスイッチ法案は、国土安全保障長官に対し、「壊滅的な被害」をもたらす恐れのある特定のAIモデルについて「減速または停止」を命じる権限を付与するものです。また同法案は、AI企業に対してサイバーインシデントの報告体制の整備と、政府や研究者が同様の事案を理解する助けとなるフォレンジック記録の保持を義務付けることになります。
「スチュワードシップとは、私たちが構築する技術を人間が制御し続けられるようにすることを意味します」とモラン議員は声明で述べています。「これはまさに、真剣な取り組みと実現可能な政策が求められる問題であり、リュー議員と党派を超えて協力し、解決策に向けて取り組めることを嬉しく思います」
出典: CNBC
