- 米国がGenAI.milを立ち上げ、300万人の国防総省職員に「Gemini for Government」へのアクセスを提供
- 専門家は、プロンプトインジェクションのリスクにより、アカウントや端末が侵害された場合にスパイ行為が可能になると警告
- 軍事プロジェクトをめぐるGoogle社員の抗議の歴史から、社内の反応に疑問の声も
米軍がGoogleのGeminiを導入する。今週初め、米国防長官ピート・ヘスゲス氏はX上で新たな動画を公開し、「世界で最も強力なフロンティアAIモデルを、すべてのアメリカの戦士の手に直接届ける」プラットフォーム、GenAI.milを発表した。
このプラットフォームは、米国防総省（現政権では「戦争省」とも呼称）の約300万人の職員を対象としており、軍人と文民の両方が含まれる。対象者全員に、このツールの使い方に関する無料トレーニングが提供される。
このプラットフォームは、米連邦政府機関向けに特別設計されたエンタープライズAIプラットフォーム／サービスである、Googleの「Gemini for Government」上で動作する。
戦争に反対するGoogle社員
理論上、これは商用の無料代替サービスと比べて、モデルがより安全で、コンプライアンスに準拠し、政府利用に適していることを意味する。しかし、それが本当に事実かどうかは、今後明らかになるだろう。
Cybernewsの記事では、ここには多くの問題が潜んでいる可能性があると主張している。あらゆる関係者が最善を尽くしているにもかかわらず、現在のAIモデルは依然としてプロンプトインジェクション攻撃に脆弱であり、ロシア、中国、北朝鮮、イランといった米国の敵対国に、データ窃取やサイバースパイ活動の新たな経路を与えかねない。
「侵害されたユーザー端末や共通アクセスカードアカウントには、いまや強力なAIコンソールが紐づいており、統合機能を通じて内部コンテキストにアクセスできたり、盗まれたデータを要約・変換する便利な手段を提供したりする可能性があります」と、チュレーン大学のサイバーセキュリティ専門家ジョシュア・コープランド氏は同メディアに語った。
同時に、Google社員の沈黙は多くを物語っている。これまで同社社員は、軍事目的や防衛目的での同社の関与に対して、何度も抗議を行ってきた。
2018年には、ドローン映像を解析するAIプロジェクト「Project Maven」に対して抗議が起きた。数千人の社員が、Googleの技術が戦争に利用されることに異議を唱える書簡に署名し、数名の社員が辞職した。最終的にGoogleは契約を更新しない決定を下した。
2021年から2023年にかけては、イスラエル政府および軍との 12億ドル規模のクラウドおよびAI契約「Project Nimbus」が存在した。Google社員は社内外で抗議し、この技術が監視、軍事作戦、人権侵害に利用される可能性があると主張した。抗議活動がエスカレートした結果、一部の社員は懲戒処分を受けたり解雇されたりした。
翻訳元: https://www.techradar.com/pro/security/pentagon-launches-new-gemini-based-ai-platform
