ペンタゴンがAIセーフガード問題をめぐってAnthropicとの関係を断つ可能性 – Claude開発企業が「ハードリミット」に対する懸念を表明…

ペンタゴンと複数のAI企業の間で、自社モデルの運用での使用方法をめぐる不和が生じている。

ペンタゴンはAIプロバイダーのAnthropic、OpenAI、Google、xAIに対して、「すべての合法的な目的」のためにそれらのモデルの使用を許可するよう要求している。

Anthropicはそのモデル「Claude」が自律兵器システムおよび大規模国内監視に使用されることへの懸念を表明し、ペンタゴンはこれに応じてAIプロバイダーとの2億ドルの契約を終了すると脅迫している。

AI兵器をめぐる2億ドルの対立

Axiosに語ったトランプ政権の匿名アドバイザーは、企業の1社がペンタゴンにモデルの完全な使用を許可することに同意し、他の2社はAIモデルの使用方法において柔軟性を示していると述べた。

ペンタゴンとAnthropicの関係は1月以降、同社のClaudeモデルの使用をめぐって動揺している。ウォール・ストリート・ジャーナルは、Claudeが当時のベネズエラ大統領ニコラス・マドゥーロを逮捕するための米軍作戦で使用されたと報道している。

Anthropicの報道官はAxiosに対して、同社は「国防省との特定の作戦でのClaudeの使用について議論したことはない」と述べた。同社はペンタゴンとの利用規約が見直し中であり、「完全自動兵器および大規模国内監視に関する当社のハードリミット」に特別な言及があると述べた。

ペンタゴンのショーン・パーネル報道官は「わが国は、わが国の戦闘員がいかなる戦闘でも勝利するのを支援する意思がある企業パートナーを必要としている」と述べた。

セキュリティ専門家、政策立案者、およびAnthropicの最高経営責任者ダリオ・アモデイは、AI開発に対するより大きな規制とセーフガーディング要件の増加を求めており、特に兵器システムおよび軍事技術でのAIの使用に言及している。