トランプ大統領、フロンティアAIモデルの自主的審査を求める大統領令に署名

6月2日に署名された大統領令により、最も強力なAIモデルの開発者は、リリース前に米国政府へモデルを提供してサイバーセキュリティ審査を受けるよう招請されました。ただし、これは義務ではなく任意の取り組みです。

ドナルド・トランプ大統領が署名したこの大統領令は、自主的な枠組みを構築するものです。開発者が「対象フロンティアモデル」を他の信頼できるパートナーにリリースする最大30日前に、政府がそのモデルにアクセスできるプロセスを設計するよう各機関に指示しています。また、別の条項では、新モデルに対する強制的なライセンス取得や事前承認の要件を明示的に排除しています。

この動きは、AIに対して規制を軽くする方針を取ってきた政権にとって方針転換を意味します。5月には、審査期間の長さなどへの懸念からトランプ大統領が以前の草案を撤回するという一幕もありましたが、今回の大統領令はその後を受けたものです。

大統領令を促した脅威

命令の文中には名指しされていませんが、この大統領令は、ソフトウェアの脆弱性を大規模に発見・悪用できるフロンティアモデルへの懸念が高まる中で発令されました。その筆頭がAnthropicのClaude Mythos Previewです。

Anthropicは最近警告を発し、競合する研究機関が1年以内に同等のモデルを投入する可能性があり、悪用防止のための安全策が講じられないおそれもあると述べています。

大統領令によれば、NSA、サイバーセキュリティ・インフラセキュリティ庁（CISA）、およびNISTは、どのモデルが「対象」の基準を超えるかを判断するための機密ベンチマークを構築しなければなりません。

フロンティアサイバーモデルに関する詳細記事：MythosやGPT-Cyberのようなフロンティアモデルがサイバーセキュリティに与える影響

この枠組みは、Anthropicの Project Glasswingと非常によく似ています。Project Glasswingは、審査済みのパートナーに対してMythosへの早期アクセスを提供し、重要なソフトウェアの脆弱性をスキャンさせる取り組みです。

連邦政府による広範なサイバー強化策

審査の枠組みにとどまらず、大統領令の大部分は防御面の抜本的な見直しを定めています。各機関に対して国家安全保障・軍事・民間連邦システムの強化に30日間の期限を与え、CISAにはAIを活用した防御ツールの拡充と、農村部の病院や地域の公益事業者といった小規模事業者へのアクセス拡大を義務付ける指令の発令を指示しています。

さらに、財務省が主導する「AIサイバーセキュリティ・クリアリングハウス」を設置し、脆弱性スキャン、検証、パッチ適用の調整を行うことも定めています。

業界の反応は概ね支持的でしたが、自主的な制度が真に効果を発揮できるかについては懐疑的な声も聞かれました。Noma SecurityのCISOであるダイアナ・ケリー氏は「自主的なセキュリティプログラムは機能し得ますが、それは真の説明責任を伴う場合に限られます」と述べ、受付窓口・タイムライン・セーフハーバー条件が整備されて初めて、協調的な情報開示が成熟したと指摘しました。

Cowbellの共同創設者であるラジーブ・グプタ氏はより率直でした。「政府は単独でフロンティアAIモデルを実質的に監督する能力を備えていません」と述べ、代替案として、各研究機関が資金を提供しつつ規制権限を持つ官民共同機関の設立を提案しました。

当面は、この枠組みの実効性は、議会が今後リリース前審査を調達規則や輸出規制と結びつけるかどうかにかかっています。