米国立標準技術研究所（NIST）は、AIが重要インフラのセキュリティをどのように強化できるかを研究するため、非営利の研究機関と提携している。
NISTは月曜日、同機関とMITREが サイバー脅威から米国の重要インフラを守るためのAI経済安全保障センターを設立すると発表した。同センターは、発電所や病院などのインフラシステムを損傷または機能停止させようとするハッカーを、セキュリティ担当者が撃退するのに役立つ「AI駆動のツールの開発と採用」を推進することを目的としている。
「NISTはMITREと緊密に連携し、共同開発とパイロット試験が、イノベーションの速いペースの中で技術採用に大きな影響を示し得る分野に注力します」と、NISTの広報担当者はCybersecurity Diveに語った。「AIアクセラレーターの目標は、米国産業がAI実装について賢明な選択を行えるよう支援することです」
NISTは発表の中で、経済安全保障センターは、製造業の生産性に焦点を当てた並行の取り組みとともに、「AIイノベーションにおける米国の優位性を効果的に守り、敵対者によるAI利用からの脅威に対処し、安全でないAIへの依存に伴うリスクを低減するために必要な技術評価と進展を開発する」と述べた。
2つの新しいAIセンターは、中国がこの分野で ますます存在感を強めている中、AI研究と展開における米国の競争優位を維持するというトランプ政権の戦略の一環だ。NISTは、新たな研究事業がホワイトハウスのAIアクションプランの実施に役立つとし、そのセキュリティ面は 重要インフラの保護に焦点を当てていた。
NISTは「AIセンターが応用科学と先端技術におけるブレークスルーを可能にし、国家が直面する最も差し迫った課題に取り組むための破壊的な革新的ソリューションを提供すると期待している」と述べた。
信頼できる自動化の確保
NISTは、新しいAIセキュリティセンターが取り組む具体的なプロジェクト例を示さなかったが、専門家は官民パートナーシップに向けたいくつかのアイデアを提示した。
AIストレステスト企業Optica Labsの最高執行責任者（COO）であるニック・リース氏は、同センターはAIモデルに依存するミッションクリティカルなシステムの信頼性を確保する方法を探るべきだと述べた。企業はデータ分析やサービス提供を簡素化するためにAIを採用しているが、「意思決定を速くするだけでなく、より正確にすることも同じくらい重要だ」と同氏は語った。
AIのデータセットやモデルをハッカーから守る方法に焦点を当てた研究はすでに進んでいるため、新しいNISTセンターはそれらの取り組みを超えるべきだとリース氏は述べた。「本当に影響力のある仕事は、人間がシステムと相互作用する地点で、真のAI保証を作り出すことにある」
国土安全保障省で新興技術政策のディレクターを務めた経験を持つリース氏は、「現時点では、AIの安全性と保証のテストおよびベンチマークが著しく不足している。というのも、ほとんどのテストがモデル性能に対して相対的に行われているからだ」と述べた。「NISTとMITREには、重要サービスの提供に資する形でAI保証の領域を拡大する大きなチャンスがある」
ジョージタウン大学の安全保障・新興技術センターのシニアフェローであるアンドリュー・ローン氏も、信頼性の向上はAIセキュリティ研究の優先事項であるべきで、とりわけ重要インフラの強化に焦点を当てたプロジェクトでは重要だと同意した。
ローン氏は、「AIは驚くべきことができるが……私たちがシステムやコンポーネントに求める水準と比べると、はるかに信頼性が低い」と述べた。同氏は2020年にこのテーマについて 論文を書いた。
信頼性の問題は、重要インフラでAIを使用することを不適格にするものではないが、そうした問題を緩和する方法の研究を促すべきだとローン氏は述べた。同氏は、スピードバンプや航空機のコックピット警報のように、人間の失敗を軽減する安全対策になぞらえた。
ホワイトハウス国家安全保障会議で新興技術政策のディレクターを務めたローン氏は、「今日、私たちのプロセスや標準は、誤りのない機械・電気部品と、誤り得る人間の運用者の組み合わせを前提に設計されている」と述べた。「AIを有用にするには、人間とは異なる形で失敗することもある、誤り得る電気機械システムを中心に、どのようにシステムや標準を設計すべきかを理解する必要がある」
重要インフラ施設は他の企業よりもAIの不具合に対する許容度が低いため、同センターはそうした失敗を減らす、または緩和する技術の開発を支援する必要がある。
ローン氏は「これについて[NISTとMITRE]が一緒に進められる進展には楽観的だ」と述べた。「その進展がなければ、AIシステムはデモや試作では印象的なことをしても、現実世界へ移行することはめったにないだろう」
翻訳元: https://www.cybersecuritydive.com/news/nist-ai-security-critical-infrastructure-mitre-center/808652/
