連邦議会の議員らが、人工知能（AI）の安全確保における連邦政府の役割を拡大するようトランプ政権に求めています。新たな安全基準や規制、モデルの独立した試験、そして防御的なサイバーセキュリティ目的でのAIのより「積極的」な活用を望んでいます。
民主党のマリア・キャントウェル上院議員（ワシントン州選出）と共和党のマイク・ラウンズ上院議員（サウスダコタ州選出）は書簡で、最先端のAIモデルがサンドボックスの保護を回避し、実在の企業や組織、政府に侵入した事案が複数発生しており、この技術を規制するには連邦政府がより強い役割を担う必要があると指摘しました。
こうした事案が数百件、場合によっては「数万件」に上る可能性があり、OpenAIのスタッフが数カ月にわたって検知できていなかったことが最近明らかになりました。両議員は、連邦政府の介入の必要性がこれまで以上に切迫していると主張しています。
「これらの事案は、AIシステムがソフトウェアの脆弱性の発見、コードの作成と実行、デジタルツールの利用、自律的な動作において、飛躍的に能力を高めるなかで起きています」と、両議員は書簡に記しました。
書簡の宛先は、国家情報長官でホワイトハウスの新たな「AI担当責任者（AI czar）」を務めるジェイ・クレイトン氏と、科学技術政策局（OSTP）のマイケル・クラツィオス局長です。書簡は連邦政府に対し、「この課題に総力を挙げて取り組み、基準、試験、監査、防御的AIを軸とした国家的な連携対応を構築する」よう求めています。
商務省内に置かれた「超知能のためのイノベーション・標準推進センター（CAISSI）」は、トランプ政権におけるAIモデルの評価・試験の中核機関となっています。両議員は書簡で、同センターの資源と権限の拡大を求めています。
トランプ政権下では、最先端モデルの試験は任意で、焦点もモデルの能力評価に置かれ、能力の制限は対象になっていません。政権はその後、OpenAIやAnthropicなどのAI企業との間で安全性試験を管理する枠組みで合意したと説明していますが、合意内容は公表していません。
両議員は、CAISSIが「高度なAIの安全性とセキュリティに関する、技術的根拠に基づく測定可能な基準とリスク管理フレームワーク」の策定を主導するよう求めています。これらの基準は、サイバー攻撃や重要インフラへの自動化された攻撃などの潜在的なリスクに対処するものとされています。
「基準はまた、高度なAIシステムを開発、訓練、試験し、社内で利用する環境のセキュリティにも対処すべきです。これには、エージェントが試験環境から逃れる、外部システムに不正にアクセスする、想定された権限を超えた行動を取るといった事態への防御策も含まれます」と、両議員は記しています。
書簡は、同センターや米国標準技術研究所（NIST）などの連邦の技術拠点が、AI、サイバーセキュリティ、モデル評価、国家安全保障の分野で専門人材を追加採用すべきだと主張しています。
また、独立した第三者による試験者のコミュニティを大幅に広げることも求めています。現在、こうした試験はほぼ全面的に、AI企業自身や、Model Evaluation and Threat Research（METR）、Redwood Researchなど、企業が選んだ監査機関によって行われています。
先月、METRのクリス・ペインター代表は議会で証言し、Hugging Faceのハッキング事案に関する同社の調査はOpenAIの招請によるものだったと述べました。OpenAIは未公開モデルへのアクセスを許可する組織や試験者を厳格に管理しています。人類に壊滅的なリスクをもたらしうる事柄など一部の調査結果は公表が認められていますが、それ以外の調査内容については、秘密保持契約によって研究者が語ることを制限されています。
ペインター氏はさらに、最先端のAI企業が試験中のモデルを監視・制御する際、技術的な管理策ではなく自社の技術に過度に依存していると指摘しました。
「AIエージェントが展開される規模と速度のため、企業は望ましくないエージェントの挙動を防ぐのに、人間による監督ではなくAIによる監視と制御に頼っています」とペインター氏は述べました。「つまり、AIの監視は現在、その大部分が別のAIシステムによって行われているのです」
両議員は、CAISSI、国立研究所、エネルギー省を連邦の試験拠点とするよう求めています。政府はそこで、高度なサイバー能力、生物・化学の脅威、重要インフラへの脅威、サンドボックス回避の手法、その他の自律的な規則違反行動について、AIモデルを評価することになります。さらに、大学や独立した研究機関、民間企業を含む「適格な第三者評価者」にも試験を開放するよう求めています。
国家安全保障局（NSA）、国防高等研究計画局（DARPA）、全米科学財団（NSF）などの連邦機関も、防御的なサイバーセキュリティに用いるAIツールの新たな基準やテストベッドの開発を支援できます。成果は政府内や一般にも共有できるとしています。
「最近の事案は、高度なAIを取り巻くセキュリティ基盤が、技術そのものと同じ速さで進化しなければならないことを明確に示しています」と、両議員は書簡に記しました。「米国には、この課題の両面で主導権を握る機会があります。ますます強力になるAIに必要な基準、試験、監査の基盤を築くと同時に、同じ能力を活用して米国のネットワークを攻撃されにくくすることです」
書簡の全文はこちらで読めます。
翻訳元: https://cyberscoop.com/congress-presses-trump-administration-ai-safety-cybersecurity/
