トランプ政権のAI安全機関トップ、CAISI就任からわずか3カ月で辞任

米商務省傘下のAI基準・イノベーションセンター(CAISI)のディレクターを務めるChris Fall氏が、就任からわずか3カ月で辞任しました。

今回の辞任により、トランプ政権のAI安全政策、モデル評価、そしてサイバーセキュリティ監督体制をめぐる新たな不透明感が生じています。

商務省は2020年7月20日に同氏の辞任を認めましたが、理由については明らかにしていません。米国立標準技術研究所(NIST)のディレクターであるArvind Raman氏が、NISTの広範な業務運営を継続しながらCAISIの暫定ディレクターを兼務することになります。

トランプ政権のAI安全機関トップが辞任

CAISIは、商用の人工知能システムに関する試験、評価、共同研究を促進する役割を担う、連邦政府にとって重要な機関です。高度な基盤モデルが従来型のソフトウェア問題を超えるサイバーセキュリティリスクをもたらすようになる中で、その重要性は増しています。

こうしたリスクには、脆弱性の自動発見、大規模なフィッシングやソーシャルエンジニアリング、悪意あるコードの生成、モデルの窃取、プロンプトインジェクション、サプライチェーン侵害、そしてAIエージェントがツールやシステム、機密データとやり取りする際に伴うリスクなどが含まれます。

Patchmanagement solutions

Fall氏の辞任は、米国のAI政策をめぐって混乱が続く時期に起きました。政権は最近、連邦政府機関に対しフロンティアAIモデル向けの評価枠組みを策定するよう指示するとともに、開発企業に対して、モデルを広く展開する前に政府による能力評価を受けるべく自発的に提出するよう求めています。

しかし、開発企業側は複雑なコンプライアンス環境に直面しています。OpenAIは政府の要請を受け、GPT-5シリーズへのアクセスを信頼できるパートナーに限定したと報じられており、一方Anthropicは商務省の輸出規制指令を受けてFable 555およびMythos 555へのアクセスを一時的に制限していました。両社とも、その後制限が解除されたことで提供範囲を拡大しています。

今回のトップ交代により、AI安全性に関する自主的なコミットメントを、信頼性が高く技術的に裏付けのある評価プロセスへと転換する取り組みが複雑化する恐れがあります。

フロンティアモデルの効果的な試験には、レッドチーミング、能力評価、安全なモデルアクセス、インシデント報告、脆弱性開示、そして機密性の高い評価資料の保護に関する明確な基準が必要です。

こうした手続きが確立されていなければ、各組織は、あるモデルのサイバー能力がどの時点で制御されたリリースや追加の安全対策、政府審査を必要とする閾値に達するのかを見極めるのに苦労するでしょう。

今回の辞任は、3月にDavid Sacks氏がホワイトハウスのAI・暗号資産担当責任者の職を退いたことに続くものであり、政権のAI政策指導体制における新たな空白を生んでいます。

同時に、競争圧力も高まっています。中国のオープンソース・オープンウェイトAIモデルは米国内で存在感を強めており、Moonshot AIは最近、自社のKimi K3モデルが特定のベンチマークにおいて米国の主要な商用システムとの性能差を縮めていると主張しました。

高性能モデルの急速な台頭は、非公開の商用展開と広範に配布されるモデルウェイトの両方を考慮したセキュリティ試験の緊急性を浮き彫りにしています。

さらに、ホワイトハウスは「Gold Eagle」クリアリングハウスを通じて、AIに関する大統領令の政策課題の実行に着手しています。この取り組みは、サイバーセキュリティ脆弱性の受付、優先順位付け、スキャン、検証、修正を統合的に調整することを目指すものです。

これによりホワイトハウスは、高度なAIモデルへのアクセス許可に関して中心的な立場を占めることになります。Axiosの報道によれば、この計画の発表においてCAISIは参加機関として名前が挙がっておらず、同機関の技術評価という使命が、政権の脆弱性調整やモデルアクセス管理とどのように整合していくのかという疑問が浮上しています。

セキュリティチームやAI開発企業にとって、CAISIの暫定指導体制の期間を注視することは極めて重要です。評価基準に関する決定は、各組織がモデルのレッドチーミングをどのように実施し、AI関連のサイバーリスクをどのように文書化し、リリースの手順をどう確立し、AIシステムがセキュリティ上の脆弱性を明らかにしたり悪化させたりした際の情報開示をどう調整するかに、大きな影響を及ぼす可能性があります。

 Strengthen Your SOC by Accelerating Threat Detection & Rapid Investigations. -> Integrate ANY.RUN With Your SOC Now.

NetworkSecurity