トランプ政権の新たなAIアクションプランは、企業や政府に対し、サイバー攻撃から重要インフラを守る際にAI技術の活用を促しています。
しかし同時に、これらのシステム自体がハッキングや操作に対して脆弱であることも認識しており、業界に対して「セキュア・バイ・デザイン」の技術設計基準の採用を呼びかけ、攻撃対象領域の縮小を目指しています。
水曜日に発表されたホワイトハウスの計画では、特に「財政的資源が限られている」重要インフラの所有者に対し、情報および運用技術を保護するためにAIツールを導入するよう求めています。
「幸いにも、AIシステム自体が優れた防御ツールとなり得ます」と計画は述べています。「AIを活用したサイバー防御ツールの継続的な導入により、重要インフラの提供者は新たな脅威に先んじることができます。」
過去1年間で、大規模言語モデルは人間よりもはるかに速くコードを書いたり、特定のサイバーセキュリティ機能を実行したりする能力を高めてきました。しかし同時に、コードの構造に大きなセキュリティホールを残したり、プロンプトインジェクションやデータポイズニング攻撃によって他者に乗っ取られたり、誤って機密データを漏洩したりするリスクもあります。
そのため、政権の計画は、バイデン政権下のサイバーセキュリティ・インフラセキュリティ庁による「セキュア・バイ・デザイン」原則の推進という以前の取り組みを基盤としています。このアプローチは、業界が協力して共通のセキュリティ原則に合意することを促したとして一部で評価されました。一方で、完全に自主的な取り組みであることに懐疑的な声もあり、規制の代わりにテック企業の「指切りげんまん」に過ぎないと批判する意見もありました。
トランプ計画では、「安全性が重要な用途や国土安全保障用途におけるすべてのAIの利用は、セキュア・バイ・デザインで堅牢かつレジリエントなAIシステムの活用を伴うべきであり、性能変化の検知やデータポイズニング、敵対的サンプル攻撃などの悪意ある活動への警告ができるようにする必要がある」と述べています。
また、計画では、国土安全保障省主導による新たなAI情報共有・分析センター（AI-ISAC）の設立を推奨し、AI関連の脅威に関する脅威インテリジェンスの共有を図るとしています。
「米国政府は、特に国家安全保障用途で依存するAIシステムが、誤ったまたは悪意ある入力から保護されていることを確保する責任があります」と計画は続けます。「AIアシュアランス分野の発展に多くの努力がなされてきましたが、レジリエントで安全なAIの開発と導入を推進することは、米国政府の中核的な活動であるべきです。」
計画では、「安全性が重要」または「国土安全保障用途」とされる組織やシステムをどのように定義するかについては詳細を示していません。また、財政的余裕のない企業や公益事業体が、現在は< a href="https://cyberscoop.com/is-xbows-success-the-beginning-of-the-end-of-human-led-bug-hunting-not-yet/">高度な人間の専門知識と指示なしには自律的なサイバーセキュリティ作業ができないAI防御システムの導入・維持費用をどのように賄うのかについても言及していません。
計画は新たな予算措置を提案しておらず、他のセクションでは、ホワイトハウスのより広範な規制緩和方針を共有しない州への連邦AI資金の見直しや制限、削減の意向が繰り返し言及されています。
コンシューマー・リポートのAI政策アナリスト、グレース・ゲディ氏は「どの州法が『負担』と見なされ、どの連邦資金が対象となるのかは不明です」と述べました。
また、計画では、AIシステムが関与するサイバーインシデントへの連邦政府の対応能力の促進と成熟も求めています。国立標準技術研究所（NIST）が主導し、業界やAI企業と連携してインシデント対応計画にAI固有のガイダンスを組み込み、CISAは既存の業界ガイダンスを修正して、各機関のチーフAIオフィサーがインシデント対応の議論に参加できるようにします。
計画への初期反応としては、ビジネス寄りの団体が政権のAI規制緩和方針を歓迎する一方、プライバシーやデジタル権利団体からは、ホワイトハウスの全体的なアプローチがAI業界をより制約の少ない、より危険で搾取的なモデルやアプリケーションへと押しやると批判する声が上がりました。
テック企業やオンラインビジネスの業界団体NetChoiceの政策ディレクター、パトリック・ヘッジャー氏は、トランプとバイデンのAI規制アプローチの違いを「昼と夜ほど違う」と評し、計画を称賛しました。
「バイデン政権は、この新興で重要な分野を徹底的にコントロールしようとしました」とヘッジャー氏。「そのモデルは失敗であり、欧州連合に真剣なテック分野が存在しないことや、何でも規制しようとする傾向に現れています。対照的にトランプAIアクションプランは、政府が民間部門をどこで支援できるかを問いかけ、それ以外は邪魔をしないことに重点を置いています。」
民主主義と技術センターの政策担当副社長サミール・ジェイン氏は、計画には「AIシステムのセキュリティへの関心の高まり」など「いくつかの前向きな要素」があると述べました。
しかし最終的には、「技術の推進に偏りすぎており、人々にどのような害を及ぼす可能性があるかという点にはほとんど対応していない」と計画を「非常にバランスを欠いている」と評しました。
CISAの元職員でAI部品表イニシアチブを主導したサイバー戦略家のダニエル・バーデンスタイン氏は、大規模なAI導入がセキュリティ、プライバシー、業界による悪用にどのような影響を及ぼすかについて、アクションプランにより大きな枠組みが欠如していると指摘しました。
「アクションプランはイノベーション、インフラ、外交について語っていますが、セキュリティと信頼のための専用の柱はどこにあるのでしょうか？」とバーデンスタイン氏。「それは根本的な盲点です。」
ホワイトハウスの計画は、JDバンス副大統領が2月の演説で示した一連の原則を大まかになぞっています。バンス氏はその冒頭で「AIの安全性について話すつもりはない」と述べ、AI安全性を「政府が誤情報と見なす意見に大人がアクセスするのを防ぐための学問分野」に例えました。
その演説でバンス氏は、米国拠点の産業への無制限の支援を中国のAI支配の脅威に対する重要な防波堤と政権が見なしていることを明確にしました。イデオロギー的バイアスのような一部の問題を除き（ホワイトハウス計画は「Woke AI」を防ぐ措置を講じています）、政権はAI安全性の義務付けによって産業の手を縛ることには関心がありませんでした。
この規制緩和姿勢は、業界にAIシステムのセキュリティ強化を促すアプローチを損なう可能性があります。
「AIとプライバシーは一つの懸念にとどまりません」と、AI搭載の本人確認サービスを提供するスタートアップMimotoのCEO兼共同創業者クリス・ボンディ氏は述べています。「AIはプライバシーや個人の権利への影響を考慮せずに個人情報を発見・利用できる能力があります。同様に、先進的なサイバーセキュリティ技術に使われるAIも悪用される可能性があります。」
彼女は「監視に依存するセキュリティ対策は、組織に独自のリスクを生み出している」と指摘し、多くの組織がAIシステムの知識を持つプライバシー・セキュリティ専門家を雇う必要があるだろうと述べました。
一方、連邦取引委員会（FTC）に関する別のセクションでは、すべての調査、命令、同意判決および差止命令を見直し、「AIイノベーションの妨げ」とならないようにすることが求められています。
この文言についてゲディ氏は、「AI開発者が結果を顧みず有害な製品を自由に作ることを許すものと解釈されかねない」と述べました。
翻訳元: https://cyberscoop.com/trump-ai-action-plan-critical-infrastructure-cyber-defense/