ChatGPTを開発するOpenAIは金曜日、ドナルド・トランプ大統領の政権の要請を受け、新たな人工知能モデルの公開を制限すると発表しました。これは、AI製品のサイバーセキュリティリスクに関する政府による前例のない審査の最新事例です。
最大のライバルであるAnthropicも数時間後に声明を発表し、米商務省が事実上禁止してから2週間を経て、トランプ政権が同社の最強のサイバーセキュリティモデルの限定的な公開を承認したと明らかにしました。
両社は、最新モデルを少数の信頼できるパートナーに限定公開すると述べました。OpenAIは、新しいAI製品「GPT-5.6 Sol」へのアクセスを、トランプ政権が承認した顧客のみに限定すると説明しています。
「政府によるこのようなアクセス審査プロセスが、長期的なデフォルトとなるべきではないと考えています」とOpenAIは声明の中で述べました。同社は今回のテスト期間を、「今後数週間以内に広く利用可能にするための」一時的なステップと位置付けています。
OpenAIによる強力な新AIシステムの段階的な公開は、今月上旬に政府がClaudeチャットボットを手がけるAnthropicに対して取った措置に続くものです。Anthropicは、外国人によるモデルの使用を禁じるトランプ政権の指令に従い、発表からわずか数日後に「Fable 5」と「Mythos 5」の2つの新AIモデルをオフラインにしました。政府は金曜日、そのうちの1モデル「Mythos 5」に対する制限を解除し、「少数のサイバー防衛担当者やインフラプロバイダーへの再展開」を可能にしたとAnthropicは述べています。
ホワイトハウスは金曜日、急成長するテクノロジーのスケーリングに伴う課題への対処に向け、最先端のAIラボとの協力を継続していると述べました。
当局の懸念が高まった背景には、Anthropicが今年初めに、同社のMythosモデルがソフトウェアの脆弱性を発見する能力に長けており、悪意あるハッカーに悪用されれば世界中の重要なコンピューターネットワークを脅かす可能性があると警告したことがあります。
ホワイトハウスの注目を集める強力な新AIモデル
トランプ大統領は6月上旬、AI監視に関する大統領令に署名しました。この大統領令は、最先端のAIシステムについて公開前の最大30日間、連邦政府が国家安全保障上のリスクを審査するための枠組みを確立するものです。大統領令ではAI開発者の参加を任意としていますが、枠組みはまだ完全には整備されていません。
トランプ大統領の支持者の一部は、政府による監視強化の必要性をサンフランシスコに拠点を置くAnthropicとDario Amodei CEOに責任があるとしています。
「ダリオは数か月前、4月にワシントンを訪れ、Mythosというサイバー兵器を作ったと基本的に語っていた。コルチゾールのレベルを急上昇させ、みんなを本当に心配させたんだ。そして、このモデルが高度なサイバー能力を持っているという意味では、ある程度真実でもあった」とトランプ大統領の技術・科学顧問会議を共同率いる投資家のDavid Sacksは最近のポッドキャストで述べました。
同じくサンフランシスコに拠点を置くOpenAIは、新しいSolモデル（スペイン語で「太陽」を意味する「SOHL」と発音）について、サイバー攻撃を実行するよりも「脆弱性の発見と修正を支援する能力の方が優れており」、同社自身のリスク基準を超えていないと述べています。ただし、特にモデルが他のツールと組み合わせて使用された場合、予期せぬリスクが生じる可能性があることも認めています。
「その不確実性と、モデルの能力における大きな飛躍を踏まえ、強化されたセーフガードと段階的な公開を組み合わせる判断をしました」と同社は金曜日の声明で述べています。
OpenAIは、新モデルの使用を承認された約20社の顧客について、現時点ではいずれも名前を公表していません。
予測不能な政府介入が米国企業の競争力を損なうとの批判
超党派のAI規制法案の共同提出者であるマサチューセッツ州選出の民主党下院議員Lori Trahanは声明の中で、「トランプ政権は、最新のAIモデルへのアクセスを企業ごとに個別に決定しています。法律もなく、プロセスもなく、監視もない。ワシントンの任命者たちが、誰が使えて誰が使えないかを独断で決めているのです」と懸念を示しました。
また、幅広い技術専門家のグループも、AnthropicにFableをシャットダウンさせた政府の行動を批判しています。FableはAnthropicがMythosのより安全なバージョンとして売り込んでいたモデルです。政府が金曜日により強力なMythosの制限を解除した後も、Fableはすでに2週間にわたって利用できない状態が続いています。
「はっきり言って、サイバーセキュリティ業界のほぼ誰もが、この措置に事実的な根拠があるとは考えていません」とスタンフォード大学のサイバーセキュリティ専門家Alex Stamosは今週初めの記者向け電話会議で述べました。
AIセキュリティ企業CorridorのCPO（最高製品責任者）で、FacebookのBの親会社Metaの元CSO（最高セキュリティ責任者）でもあるStamosは、AnthropicのPの主要クラウドコンピューティングパートナーであるAmazonによるFableの研究分析を精査したものの、中国製を含む他の一般公開済みのAIモデルには存在しないリスクは見当たらなかったと述べています。
「政権が本当に米国を中国との競争で勝利させたいと思っているなら、これは彼らができる最も愚かな行動の一つでしょう」とStamosは語りました。
IPO準備が進む中で強化されるAI企業への監視
OpenAIのSam Altman CEOは水曜日、Howard Lutnick米商務長官とモデルの公開について協議しました。これは近週にわたってAI業界幹部とトランプ政権当局者の間で行われた一連の交渉の一環です。
AnthropicもこれらＣの交渉に参加していましたが、AmodeiはトランプＡ政権とより対立的な関係を続けてきました。国防総省は、Anthropicが戦争におけるAI利用に関する倫理的・安全上の懸念を表明したことを理由に、同社を国家安全保障上のリスクと認定しました。トランプ大統領自身も連邦機関にClaudeの使用停止を命じており、Anthropicはこれに対して訴訟を起こし、現在も連邦裁判所で審理が続いています。
Anthropicは金曜日、金曜日遅くにMythosが部分的に公開されたことを「歓迎する」と表明し、「アクセス拡大に向けて政府との協力を継続する」とともに、Fableを一般ユーザーに再び提供できるよう努めると述べました。Lutnick商務長官は金曜日付の書簡でAnthropicに対し、政府の懸念への対応における同社の取り組みが「大きな進展をもたらした」と伝えました。
政府によるAI監視の強化は、SpaceXが6月12日に記録的なIPO（新規株式公開）を実施した後、OpenAIとAnthropicがウォール街での株式上場を模索する動きにさらなる複雑さをもたらしています。
トランプ大統領は、米政府が主要なAI企業の株式を保有する可能性についても言及しており、「一部を米国民に与え、米国民が実質的に企業のパートナーになる」という構想を描いていると述べています。
