NIST、AIエージェントのセキュリティ確保に向けて一般から協力を募集

米国立標準技術研究所（NIST）は、AIエージェントのセキュリティリスクを管理するためのアプローチ案について、一般から提案を求めている。

木曜日に公表予定の連邦官報（Federal Register）の告示で、NISTのAI標準・イノベーションセンター（CAISI）は、「人工知能（AI）エージェントシステムの安全な開発および展開を測定・改善するための実務や方法論に関する、利害関係者からの情報と洞察」を募集した。

この一般参加の取り組みは、ますます普及するAIエージェントにおけるセキュリティ上の弱点に対する根強い懸念を反映している。多くの企業は、欠陥を十分に理解したり緩和計画を策定したりしないままこれらのエージェントを採用しており、結果としてハッカーがコンピュータネットワークに侵入する新たな経路を意図せず生み出している。十分に保護されていないAIエージェントに広範な権限を与えることは、重要インフラのネットワークでは特に危険になり得る。重要インフラは、ときに健康と安全に不可欠な産業機械を制御しているためだ。

「これらのセキュリティリスクを放置すれば、公衆の安全に影響を及ぼし、消費者の信頼を損ない、最新のAIイノベーションの採用を抑制する可能性がある」とNISTは募集文書で述べた。

同機関は、テック企業、学術研究者、その他の一般の人々に対し、AIエージェントシステムの開発・展開、およびそれに伴うリスクの管理と予測に関する経験に基づく「具体例、ベストプラクティス、ケーススタディ、実行可能な提言」を提出するための期間として60日を与えている。

指針を求めて

CAISIはバイデン政権下で設立され、ドナルド・トランプ大統領の下で2025年に再編された組織で、AIのセキュリティ評価手法の開発、AIモデルの脆弱性テスト、そして任意のセキュリティ標準を策定するための産業界との連携を担っている。NISTは、一般からのフィードバックがCAISIによるAIセキュリティリスクの評価に役立ち、さらに「AIシステムのセキュリティを測定し改善するための技術的ガイドラインとベストプラクティス」を作成することにつながると述べた。

この募集では、AIエージェント特有のセキュリティリスク、エージェントを保護するために利用可能な技術的コントロール、エージェントが関与するサイバーインシデントを検知する手法の現在の成熟度など、複数の具体的な質問に回答するよう一般に求めている。

CAISIはまた、エージェントの特定の能力や展開方法がセキュリティコントロールの有効性にどのように影響し得るか、そしてどのエージェント・セキュリティ研究分野に最も緊急の注意を向けるべきかなど、他の論点についても把握したいとしている。