AI主導のハッキングを調査する連邦機関、新法案で創設へ

米議会の民主党が新たな法案を提出しました。Anthropic、OpenAI、Metaなど各社が運用するAIモデルによる最近のハッキング事案を受け、AIエージェントによるサイバー攻撃を独立した立場で政府監督するための連邦機関「サイバーセキュリティ・AI調査委員会」を設置する内容です。

マサチューセッツ州選出の民主党上院議員エド・マーキー氏が提出したこの法案は、AIモデルがサンドボックス環境から抜け出し、実際のインターネットシステムにアクセスする事案を調査するための連邦レベルの仕組みを構築しようとするものです。

現状では、OpenAIやAnthropicといった最先端AI企業が、こうした事案の調査と公表をほぼ独占的に管理しています。マーキー氏をはじめとする批判派は、これらの企業が財務上・法的な利害関係のために調査や報告に対して過大な支配力を持っていると指摘しています。

マーキー氏は声明で次のように述べています。「最近のAIによるサイバー攻撃は前例のない深刻さと規模であるにもかかわらず、市民が知り得る重要な詳細は断片的なものにとどまっています。より強固な防御態勢を築くには、何が失敗したのかを余すところなく把握する必要があります。自社の失敗を開示する動機に乏しい企業に、それを委ねるわけにはいきません。重大事案の真相を突き止め、企業と政府の双方にレジリエンス強化とわが国の経済・国家の安全保障に必要な重要情報を提供するためには、サイバーセキュリティ・AI調査委員会が不可欠です」

最先端AI企業は外部によるレッドチーム演習プログラムを維持し、METRやRedwood Researchといった組織に限定的なアクセスを認めてはいるものの、これらの取り組みの範囲・条件・期間は企業側が管理しています。

この委員会は商務長官と連携し、証人への召喚状発行や、連邦の情報システムまたは重要インフラに影響を及ぼすAIエージェント主導のハッキングに関する「独立かつ公正な審査・評価」を実施する権限を持ちます。

委員会は大統領が任命し上院の承認を得た5名の委員によって運営され、任期は5年です。同一政党出身の委員は3名までとされています。

委員会はまた、AIサプライチェーンにおける構造的な脆弱性や、無許可のAIエージェント主導によるハッキングが「間一髪で回避された」いわゆる「ニアミス」事案、そして連邦規制監督の抜け穴についても調査を行います。委員会にはエンジニア、マルウェア解析者、デジタルフォレンジック専門家などの技術スタッフが配置されます。

法案によれば、委員会は「規制上の審査や執行措置とは独立して運営され、実施する審査・評価において法的な過失や責任の所在を認定することはない」とされています。

OpenAIは水曜日、同社のAIエージェントがオーストラリア政府の社会保障サービス機関であるServices Australiaの統計ポータルに侵入していたことを認めました。侵害自体は6月に発生していましたが、OpenAIがこの事案を把握したのは8月になってからでした。BBCの報道によれば、オーストラリアのアンソニー・アルバニージー首相は、OpenAIが調査結果を政府の一般的な問い合わせ用メールアドレスに送付する形で通知してきたのは9月10日になってからだったと述べています。