- OpenAIはペンタゴンと新しい契約に署名しました
- 契約の文言は、AIが大量の国内監視に使用されるための余地を残していました
- サム・アルトマンはこの問題での彼のスタンスについて批判されています
国防長官ピート・ヘグセスによるAnthropicのサプライチェーンリスクとしての指定と20億ドルのペンタゴン契約の喪失に続いて、OpenAIは現在ペンタゴンとの独自の合意のために批判を受けています。
2023年にOpenAIのAIモデルが米軍によって使用されることを禁じる契約条項を持っていたにもかかわらず、複数のOpenAI従業員がそのモデルが以前ペンタゴンによって使用されていたことを明かしました。
当時、ペンタゴンはMicrosoftと契約していました。MicrosoftはOpenAI技術を使用するライセンスを持ち、ペンタゴンに同じポリシーの対象ではないAzure OpenAIを通じたアクセスを許可していました。
Anthropicが自律型兵器システムと大量の国内監視のためにペンタゴンがそのモデルを使用することを許可することを拒否しているため除外されて、OpenAI CEOのサム・アルトマンは現在米軍との会社の最新契約について問われています。
2024年、OpenAIはそのモデルの軍事使用に対する一括禁止を削除し、その後、国家安全保障目的でそのモデルの展開を許可するAndurilとの契約に署名しました。
アルトマンはClaudeが悪質な目的のために使用されることを防ぐことに関するAnthropicの立場への支持を明確にしてきました。しかし、会社のUS軍との新しい合意は、その問題に詳しい情報源がWiredに語ったように、同じ目的のための余地を残していました。
現在の規制はAIで行われた進歩に後れを取っており、政府機関がデータブローカーから米国市民の個人情報を購入し、その後AIモデルを使用して情報を分類・整理し、市民の高度に正確で詳細なプロフィールを作成する機会を提示しています。
OpenAIとUS軍の間で署名された最新の合意についてコメントして、OpenAI研究者のNoam Brownは、「週末にかけて、OpenAI/DoD合意の元の言語が正当な質問に答えないままにしたことが明らかになりました。特に、AIが潜在的に合法的な監視を可能にする可能性のあるいくつかの新しい方法に関して。」と述べました。
ブラウンは続けて、「言語は現在これに対処するために更新されていますが、世界は彼らの安全とセキュリティのためにAIラボまたは情報機関への信頼に頼る必要があるべきではないと私も強く信じています。」と述べました。
OpenAIの地政学チームの前責任者であるSarah Shokerは、「これのすべての中で最大の被害者は日常的な人々と紛争地域の民間人です。戦争における軍事AIの影響を理解する私たちの能力は、技術的設計とポリシーによって引き起こされた不透明さのレイヤーのため、厳しく妨げられています。それはすべての方法で黒いボックスです。」と述べました。
