ドナルド・トランプ大統領は金曜日、人工知能の安全性をめぐるペンタゴンとの異例の公開紛争の後、連邦機関に対するAnthropicテクノロジーの使用を段階的に廃止するよう命じたと述べた。
トランプの発言は、Anthropicに対するペンタゴンの期限のわずか1時間以上前に出された。同社にAIテクノロジーの無制限の軍事利用を認めるか、あるいは報復に直面するかを迫るものだった。また、CEOのダリオ・アモデイが同社は国防総省の要求に「良心的に応じることはできない」と述べてからほぼ24時間後のことだった。
Anthropicはトランプの発言についてコメント要請にすぐに応じなかった。
防衛契約の争点は、国家安全保障におけるAIの役割についての対立と、ますます能力を高めるAI機械が致命的な力、機密情報、または政府監視に関わる高リスク状況でどのように使用されるかについての懸念だった。
チャットボットClaudeの製造元であるAnthropicは契約を失う余裕があった。しかし、国防長官ピート・ヘグセスからの今週の最後通牒は、サンフランシスコの無名なコンピュータサイエンス研究室から世界で最も価値のあるスタートアップの一つへの企業の急速な成長のピークにおいて、より広範なリスクをもたらした。
Anthropic、安全対策に関するペンタゴンの最新案を拒否
アモデイが譲歩しなかった場合、軍事当局者らはAnthropicの契約を引き上げるだけでなく、「サプライチェーンリスクと見なす」と述べた。この指定は通常、外国の敵に対して押される指定で、企業の他のビジネスとの重要なパートナーシップを挫折させる可能性があった。
また、アモデイが屈した場合、彼はAI産業全体での信頼を失う可能性があった。特に、安全対策なしには壊滅的な危険をもたらす可能性のある、人間より優れたAIを責任を持って構築するという約束のために企業に引き付けられた優秀な人材からだ。
Anthropicは、ペンタゴンから、Claudeがアメリカ人の大量監視やフルオートノミック兵器に使用されないことを保証するよう求めたと述べた。しかし、数ヶ月間の非公開会談が公開討論に爆発した後、同社は木曜日の声明で、新しい契約言語は「妥協として枠組みされたが、これらの安全対策を随意で無視することを可能にする法的な文言と組み合わせられた」と述べた。
これはペンタゴンの最高報道官ショーン・パーネルがソーシャルメディアに、軍隊は「アメリカ人の大量監視を行うためにAIを使用する関心はない（これは違法である）。また、人間の関与なしに動作する自律型兵器を開発するためにAIを使用したくはない」と投稿した後のことだった。彼はペンタゴンが「すべての合法的な目的のためにAnthropicのモデルを使用したい」ことを強調したが、彼と他の当局者らはこの技術をどのように使用したいかを詳しく説明していない。
紛争はテック業界をさらに分極化させる
研究・エンジニアリング防衛次官のエミル・マイケルは後に、X上でアモデイを非難し、彼は「神経」があり、「米国軍を個人的にコントロールしようと試みること以上に何も望んでおらず、わが国の安全をリスクにさらすことに同意している」と主張した。
そのメッセージはシリコンバレーの多くで共鳴していない。そこではAnthropicの最大のライバルであるOpenAIとGoogleからの増加するテック労働者が、アモデイの立場を木曜日遅くの公開書簡で支持した。
OpenAIとGoogle、そしてイーロン・マスクのxAIも、軍事にAIモデルを供給する契約がある。
マスクは金曜日にトランプの共和党政権に付き、彼のソーシャルメディアプラットフォームXで、マイケルが「非西洋的観点の検討」を奨励するClaudeの以前のバージョンのガイドラインに注意を引いた後、「Anthropicは西洋文明を嫌う」と述べた。マスクのGrokとOpenAIのChatGPTを含むすべての主要なAIモデルは、チャットボットの価値と行動をガイドする一連の指示でプログラムされている。Anthropicはそのガイダンスを憲法と呼んでいる。
マスクと防衛請負業者Andurilの共同創設者パルマー・ラッキーを含むトランプと同盟するいくつかのテックリーダーが論争に参加した一方で、「目覚めたAI」についての分極化する議論は他者を困難な立場に置いた。
「ペンタゴンはGoogleとOpenAIと交渉して、Anthropicが拒否したことに同意させようとしている」とOpenAIとGoogleの従業員からの公開書簡は述べている。「彼らは、他が譲歩するだろうという恐怖で各企業を分裂させようとしている。」
しかし、アモデイの最も激しいライバルの一人からの驚きの動きの中で、OpenAI CEOのサム・アルトマンは金曜日にAnthropicに付き、CNBC面接でペンタゴンの「脅迫的な」動きを疑問視した。これはOpenAIとAI分野のほとんどが同じレッドラインを共有していることを示唆している。アモデイはかつてOpenAIで働いており、2021年にOpenAIリーダーを離れてAnthropicを設立した。
「Anthropicとのすべての違いのために、私は主に彼らを企業として信頼し、彼らが本当に安全性を気にかけていると思う」とアルトマンはCNBCに述べた。「彼らが私たちの戦闘員を支援してくれたことで幸せだ。これはどこへ向かうのか確実ではない。」
ペンタゴンのアプローチについて懸念も提起していたのは、共和党と民主党の議員、および防衛総務省のAI計画の元リーダーだった。
「Anthropicに的をペイントすることは刺激的なヘッドラインを獲得するが、最終的には誰もが失う」と、退役空軍大将ジャック・シャナハンはソーシャルメディアの投稿で書いた。
シャナハンはトランプの最初の政権中にMavenを率いた時、異なるテック労働者の反対の波に直面した。これはドローンフッテージを分析し、兵器を標的にするためにAI技術を使用するプロジェクトだった。当時、Project Mavenへの参加に抗議した多くのGoogle従業員がいたため、テック大手は契約を更新することを拒否し、その後AI兵器に使用しないことを誓った。
「私はProject Maven＆Googleのまさに中央にいたため、ここでペンタゴンの側を取ると仮定するのは合理的である」とシャナハンは木曜日にソーシャルメディアに書いた。「しかし、私はAnthropicの立場に同情している。2018年にGoogleのそれよりも多い。」
彼はClaudeがすでに政府全体で広く使用されており、分類された設定も含めて、Anthropicのレッドラインは「合理的である」と述べた。彼はClaudeのようなチャットボットを駆動するAI大規模言語モデルも「国家安全保障設定でプライムタイムの準備ができていない」。特にフルオートノミック兵器ではない。
「彼らはここで可愛くしようとしていない」と彼は書いた。
妥協しなければペンタゴンはAnthropicを罰する準備ができている
パーネルは木曜日、技術の使用を開くことは、企業が「重要な軍事作戦を危険にさらす」ことを防ぐだろうと主張した。
「私たちは、どの企業にも、私たちが操作上の決定をする方法に関する条件を指示させることはない」とパーネルは書いた。Anthropicには「金曜日のET午後5時01分までに決定する」時間がある。要求を満たすか、あるいは結果に直面するか。
ヘグセスとアモデイが火曜日に会った時、軍事当局者らは、彼らはAnthropicをサプライチェーンリスクとして指定できる、その契約をキャンセルできる、または冷戦時代の「防衛製造法」と呼ばれる法律を呼び出して、軍隊にその製品を使用するより広範な権限を与えることができると警告した。会社が承認していない場合でも。
アモデイは木曜日に「これらの後者の2つの脅威は本質的に矛盾している。1つは私たちをセキュリティリスクとしてラベル付けし、もう一つはClaudeを国家安全保障に不可欠なものとしてラベル付けする」と述べた。彼はペンタゴンがClaudeの軍事的価値を考慮して再考することを望んでいるが、そうでない場合、Anthropicは「別のプロバイダーへのスムーズな移行を実現するために機能する」と述べた。
