トランプ政権によるAIセキュリティ分野への場当たり的かつ不透明な介入が、中国製の代替製品をより広く受け入れさせる結果を招き、新たなセキュリティリスクを生み出しかねないと、民主党の上院議員グループが月曜日、政権高官らに宛てた書簡で指摘しました。
5人の上院議員は、政権の対応が両極端の間を揺れ動いていると指摘しています。先月のHugging FaceへのハッキングではOpenAIのモデルが検証を素通りしてしまうなど過度に受け身な対応があった一方、6月には商務省がAnthropicのFable 5およびMythos 5について、あらゆる外国籍者へのアクセスを停止させるなど、行き過ぎた介入も見られたといいます。
「政権による場当たり的で予測不能な対応は、米国の競争力を損ない、中華人民共和国(PRC)を拠点とするベンダーが提供するオープンウェイトモデルの採用を後押しする市場インセンティブを高めている」と、ニューヨーク州選出のクリステン・ジリブランド上院議員、カリフォルニア州選出のアダム・シフ上院議員、バージニア州選出のマーク・ワーナー上院議員、デラウェア州選出のクリス・クーンズ上院議員、アリゾナ州選出のマーク・ケリー上院議員は記しています。
Hugging Faceのハッキング事案について、上院議員らは「こうした能力が登場しつつある中、連邦政府が受け身の姿勢でいることは許されない」と書簡に記しています。
Fable 5とMythos 5の利用停止に関しては、政権が「めったに用いられない権限を行使し、Anthropicに対しFable 5とMythos 5の両モデルについて、外国籍者(米国内で勤務する外国籍の従業員を含む)へのアクセスを一切停止するよう指示した。その際、非公開の国家安全保障上の懸念を理由に挙げ、後に狭い範囲のジェイルブレイク(脱獄)手法の発見だったと説明された」と上院議員らは述べています。
Anthropicは利用者の国籍を即座に判別できなかったため、両モデルを全ユーザー向けに無効化せざるを得ませんでした。政権とAnthropicは非公開の場で18日間にわたり交渉を重ねた末に合意に至ったと、議員らは不満を示しています。
「政権は米国を守るための正当なセキュリティ上の懸念に対応していた可能性はあるが、たとえ正当な介入であっても、その基準や意思決定プロセスが不透明であったり、場当たり的であったり、予測不能であったりすれば、より広範な弊害を生みかねない」と、上院議員らはホワイトハウス、国家サイバー長官室、国務省、財務省、商務省の各首脳に宛てた書簡で述べています。「さらに、行政府が議会から委任された権限、たとえば輸出管理の運用などを行使する際には、その行動と手続きについて議会に十分な説明を行うことが不可欠だ」としています。
Anthropicが輸出規制の対象となっていた期間中、「エンティティリストに掲載された中国の研究機関」の株価はほぼ倍増したと上院議員らは述べています。また、Hugging Faceが侵害を受けた際には、米国製フロンティアモデルに課されたガードレールのために、同社は中国製のオープンウェイトモデルに頼らざるを得なかったといいます。
「米国製モデルがブラックボックス化した米国政府のプロセスによって突然アクセスを遮断される恐れがあると受け止められたり、あるいは米国のAI企業がこのブラックボックスなプロセスを過度に警戒するあまり信頼性を欠くと見なされたりすれば、米国内外の企業や政府は、代わりに中国製をはじめとする外国製モデルの採用でリスクを分散させる可能性がある」と上院議員らは主張しています。「そうした結果は米国の技術的優位性を損なう一方で、中国政府による、あるいは中国政府の指示に基づく検閲や産業スパイ、知的財産の窃取、その他のサプライチェーン上のセキュリティリスクを抱えるシステムへの依存を高めることになる」としています。
書簡では、フロンティアモデルがもたらす国家安全保障上のリスクを政権がどのような基準で判断しているのか、制限を発動する際にどのような法的権限を用いるのか、どの機関がどの意思決定を担うのかなど、複数の質問に対する回答を求めています。
書簡の宛先となった各省庁・機関のいずれからも、コメント要請への即時の回答はありませんでした。
この書簡は、州レベルでの調査に続くものです。15州の司法長官は、Hugging Faceで発生したセキュリティインシデントに関するさらなる情報をOpenAIに要請していました。
翻訳元: https://cyberscoop.com/trump-ai-policy-chinese-models-risk/
