ペンタゴン、自動兵器戦争への移行に伴いAI確保に格闘

ナッシュビル — ペンタゴンが人工知能を戦争機構に統合しようとする中、高級軍事指導者たちは、目に見えにくいが同等に重大な課題に直面している。それは、やがて戦場での意思決定を助けるかもしれないソフトウェアをいかに確保し、制御するかという課題である。

自動兵器システムはもはや遠い未来の話ではない。統合参謀本部議長のダン・ケイン大将はヴァンダービルト大学のアネス現代紛争新興脅威サミットの聴衆に語った。それらは「私たちが行うすべてのことの重要で本質的な部分」となるだろうと彼は付け加えた。

彼の発言は、このシフトが単により高度なドローンやより高速なシステムの配置についてだけではないことを明確にしている。これは、司令統制ネットワークから機械学習モデルまで、敵対的条件下で信頼できるデジタルインフラストラクチャを構築することについてでもある。「私たちは現在、統合部隊でこれについて多くの検討を行っている」と彼は述べ、ターゲティング、物流、戦場調整などの領域における自律性の役割の増加を指摘した。

彼が示唆した緊迫感は、軍事と民間部門の間で広がっている差によって複雑になっている。民間部門では、最先端のAI開発の大部分が行われている。「この部屋のおそらく全員が毎日何らかの形式の大規模言語モデルを使用している」と彼は述べた。「したがって、私たちはこれを本当に正常化し、早期採用者になる必要がある。」

国防総省は、もともと軍事使用のために設計されていなかった民間開発のソフトウェアシステムにますます依存しており、脆弱性、サプライチェーンリスク、敵がそれらを悪用する可能性についての懸念が生じている。

これらのまさにその懸念は、国のトップAI企業の1つであるAnthropicとのにらみ合いによって鋭く浮き彫りにされている。

同社は最近、強力なモデルであるMythos Previewの公開リリースを留保し、サイバーセキュリティリスクと広範に配備された場合に悪用される可能性についての懸念を挙げた。同時に、情報機関はその能力に関心を示している。国家安全保障局は報告によるとモデルへのアクセスが許可されている。

今年初め、Anthropicはそのシステムの使用方法に関する制限を緩和することを拒否した。これには国内監視と完全に自律した兵器に対する制限が含まれている。この拒否は、ペンタゴンが同社を「サプライチェーンリスク」に指定する非常に公開的な議論を引き起こした。この用語は通常、政府システムにセキュリティ脆弱性をもたらす可能性のある技術を持つ外国ベンダーに適用される。

ホワイトハウスに続いて、Anthropicのツール使用を段階的に廃止するよう連邦政府機関に指示する命令が出された。同社はその後、その決定に異議を唱えて法廷で異議を唱え、連邦判事は3月に禁止を一時的に遮断した。政府は控訴する意向を示している。

最近、ドナルド・トランプ大統領は、この紛争が緩和される可能性があることを示唆し、同社が「形を整えている」と述べ、「非常に有用である」可能性があると述べた。

このエピソードは、より深く未解決の問題を強調している。米国は国家安全保障のためにAIを採用することに急いでいる一方で、必ずしも軍事優先事項と一致しない商業エコシステムに依存している。特にリスク許容度と制御に関しては。

軍事プランナーにとって、懸念はAIシステムがより速いまたはより良い決定を下せるかどうかだけでなく、それらのシステムが操作、データ汚染、または高リスク環境での意図しない動作から保護できるかどうかである。

これらのリスクはもはや理論的なものではない。議員たちはすでにペンタゴンに、米国とイランの戦争の開始時にイラン学校への致命的な攻撃でAIシステムが使用されたかどうかについて答えるよう促している。これは、そのようなツールがどのようにテスト、監査、および統治されるかについて疑問を提起している。

ケイン大将はより実用的な障害も指摘した。それは政府自身の調達システムである。「より良い契約を書く必要がある」と彼は述べ、現在の取得フレームワークが継続的に進化し、継続的なセキュリティアップデートが必要なソフトウェアには不適切であると主張した。固定ハードウェアシステム用に設計された従来の契約は、重要なテクノロジーの配置を遅くし、説明責任にギャップを残す可能性がある。

AIの文脈では、これらのギャップは運用上の結果をもたらすことができる。特に故障または脆弱性の責任が不明確である場合。ケイン氏は、契約は政府と民間企業の間でリスクを共有するように構成されるべきであり、システムが効果的であるだけでなく、弾力的であることを確保することを目的としていると述べた。

ペンタゴンがAI対応戦争にさらに深く進むにつれて、課題はテクノロジーが機能するかどうかについてではなく、それが信頼でき、エラーの余地がほぼないドメインで確保および制御できるかどうかについてが焦点になりつつある。