業界がNISTに要求: エージェントAI標準を柔軟で自主的に保つ

連邦政府は、エージェントAIシステム向けのセキュリティガイダンスを策定する際、相互運用可能でリスクベースの標準を優先すべきだと、大手企業は国立標準技術研究所（NIST）に述べた。

NISTのAI標準・イノベーションセンターは、AIentreprises とそれらの顧客がエージェントを改ざんや悪用から保護する方法を探索しており、そのプロジェクトの一環として、パブリックコメントを募集した（月曜日夜まで）。930以上の組織と個人がコメントを提出し、ドケットによると、米国銀行家協会および銀行政策研究所、ソフトウェア業界団体BSA、テクノロジー業界大手TechNetを含む強力な業界団体グループが含まれている。

これらのグループはNISTへの広範な推奨事項を行い、参照実装の公開、セキュアバイデザイン原則の強調、エージェントAI検証管理に関する研究支援、新しいガイダンスと既存のNIST刊行物とのマッピングを含めることを促した。

「実用的なガイダンスと実世界テスト、既存のリスク管理フレームワークとの整合を重視する協調的で反復的なアプローチは、AIエージェントの安全かつ大規模な展開を可能にし、米国がこの新興技術の経済的および社会的メリットを十分に活用できるようにする」とTechNetは述べた。

エージェント特有のリスク

NISTはコメント提出者に、AIエージェント特有のセキュリティリスク、およびそれらを軽減する方法を含む複数のトピックに対処するよう求めた。

その回答の中で、BSAは4つの独自な脅威について説明した：監視を必要とする実世界の行動を引き起こすエージェントの自律的行動。異なるツール間のスイッチングにより「静的ポリシー強制」が困難になる方法。時間の経過に伴う情報保持により、ハッカーがデータソースへの汚染によるエージェント乗っ取りが可能になる可能性。および「非決定論的動作」エージェント（「ルールベースのセキュリティコントロール」での制御が困難）。

これらの課題に対処するため、BSAは企業がAIエージェントの完全な可視性を確保し、それらのアクセス許可をカタログ化し（認可されていない動作を迅速に特定するのに役立つ）、エージェント活動を支えるAIコードのサプライチェーンを検証し、リアルタイムでそれらの動作を監視する必要があると述べた。

業界グループが述べたように、エージェント を特に危険にしているのは、Model Context Protocolなどのシステムを通じて、第三者のデータベースおよび物理機器に接続する能力である。「AIエージェントはツール、外部データ、実世界システムと相互作用できるため、的を絞った注意を必要とする明確なセキュリティ課題をもたらす」とTechNetは述べた。

規制を急がない

NISTは規制機関ではなく、トランプ政権はAIセキュリティに関する処方的な義務に対する明らかな反発を示している。それでも業界グループは、AIシステムに対する重い規則は革新を遅延させ、セキュリティを著しく改善することなく進めることになるという立場を繰り返した。

「政策目標は、時期尚早で過度に処方的、またはワンサイズフィットオールな要件により革新を遅延させることなく、これらのリスクを削減し管理することであるべき」とTechNetは述べ、「パフォーマンス定義ガイドライン」に焦点を当てるようNISTに促した。

BPIとABAは同様にNISTに「自発的かつテクノロジーに依存しない」ガイダンスに焦点を当てるよう促し、「実用的な事例と、リスクおよび運用上の状況に応じてカスタマイズできる例示的な検証アプローチ」を含むことを求めた。

「こうしたガイダンスは業界采用を促進し、統合計画およびリスク情報に基づくレビュー（適切な場合のデューデリジェンスを含む）をサポートし、単一の実装アプローチを指定することなく法的および規制上の義務への準拠をサポートする」と金融サービスグループは述べた。

TechNetは、自らが推奨するパフォーマンスベースの標準の例として航空業界を挙げた。「均一な技術設計を義務化する代わりに、規制当局はリスク露出および運用上の状況に関連する成果指向の基準を確立した」とグループは説明した。「このモデルは期待に関する明確性を作成しながら、航空機設計、自律性、および運用慣行における革新を可能にした。」

AIエージェントは、それらがどのように、どこで使用され、どの程度の自律性を有するかに応じて異なるレベルのリスクをもたらすとTechNetは追加し、リスクベースのアプローチが「特に重要である」ことを指摘した。

エージェントAI分野はまだ初期段階にあり、NISTのガイダンスは「エージェントAIセキュリティプラクティスが引き続き成熟するに従って、実験に対する有意な余地を保持すべき」とTechNetは述べた。

「過度に厳密または時期尚早の義務」とグループは警告し、「セキュリティアプローチを固定化し、その分野がベストインクラスの技術を特定する前に展開される可能性がある。」

難題に関するアドバイスと研究

AI業界は、開発者がまだ解決していない様々な問題に関する政府のアドバイスおよび研究スポンサーシップから恩恵を受ける可能性があると業界団体は述べた。

BSAはNISTにAIエージェントのアイデンティティを検証する方法の研究、およびエージェントが何をすることを許可されているかを文書化するための「暗号的な管理チェーン」の使用を促した。TechNetは同様に信頼性の高いエージェント識別ソリューションの重要性を指摘し、それらは市場の新規参入者をロックアウトすることを回避するため相互運用可能であるべきだと述べた。

より多くの銀行がAIエージェントを使用して資産交換を処理しようとしているため、ABAおよびBPIはNISTに金融業界に固有のガイダンスを提供するよう促し、「安全なカウンターパーティー相互作用」のための参考資料を含めることを求めた。

TechNetはABAおよびBPIと共に、リスク管理フレームワークなどの既存刊行物にエージェント固有のガイダンスを組み込むようNISTに求めた。