英国の国家サイバーセキュリティセンター（NCSC）は、エージェンティックAIを活用したいと考えながらも、関連するサイバーリスクについて懸念している組織向けの新しいガイダンスを発表しました。
新しいドキュメントは、NCSC、オーストラリア、カナダ、米国、ニュージーランドのファイブアイズのカウンターパートと共同で作成された、より詳細なレポートをまとめたものです。
このレポートは、エージェンティックシステムの自律性と複雑性が特に危険であり、外部システム、データ、ツールへの過度に広いアクセスおよび予測不可能な動作の危険性について警告しています。
人間がレビューするよりも速く行動が発生する場合、問題はより検出が難しくなります。また、エージェントが利用できる行動とツールの膨大な範囲により、特定の行動方針を説明することがより困難になります。NCSCは続けています。
エージェンティックAIガイダンスについてもっと読む：OWASPがエージェンティックAIセキュリティガイダンスを立ち上げ。
NCSCは、エージェントの展開前に慎重に考えるよう組織に促しました。権限が過剰またはデザインが不十分な場合、単一の障害が急速に深刻なインシデントになる可能性があります。
したがって、組織は何が悪くなる可能性があるかを考え、AIが特定のユースケースで本当に必要かどうかを検討し、段階的にのみ展開する必要があります。「明確に定義されたタスクを使用した厳密に制限されたパイロットから始めます。」
NCSCは、デプロイ前にチームはエージェンティックシステムを所有する人、そのアクセスを承認する人、その動作を監視する人、インシデントをレビューする人、そして何か問題が発生した場合それを停止することができる人を決定する必要があると付け加えました。
「エージェントがそのタスクを誤解したり、意図されたスコープを超えたり、操作されたりした場合に何が起こる可能性があるかを考えてください。エージェントに機密データまたは重大なシステムへの無制限のアクセスを決して付与しないでください。」と述べました。
「システムの操作の継続的な可視性を維持し、意味のある人間による監視と管理を保持する方法を理解していることを確認してください。エージェントの行動を理解、監視、または封じ込めることができない場合は、展開の準備ができていません。」
エージェンティックAIリスク軽減のためのベストプラクティスアプローチ
幸いなことに、業界のベストプラクティスはここで役立つことができます。これは国際的なETSI EN 304 223標準で定義されています。NCSCはエージェンティックAIリスクを軽減するために以下を有用なものとして概説しました：
- 最小権限の原則を適用 エージェントが必要最小限のアクセスのみを最短時間で取得するようにする
- スコープを制限 エージェントがアクセスできるもの、実行できるアクション、実行できるタイミングを制限することで
- 長寿命の認証情報を回避 可能な限り一時的なものを使用し、タスク完了後に拡張アクセスを取り消すことで
- セキュアなデフォルトを使用 アプリケーションが安全な設定、セキュアなプロトコル、適切な検証で設計されるようにする
- 依存関係を理解 サードパーティコンポーネント、モデル、ツール、統合のサプライチェーンリスクを管理するために
- 動作を監視 ツール、ワークフロー、接続されたシステム全体の異常または予期しないアクティビティを検出するために
- デプロイメントを脅威モデル化 システムがどのように悪用される、操作される、または予期しない動作をさせられるかを考慮することで
- インシデントに備える 対応計画がエージェンティックAIの障害、悪用、制御の喪失をカバーすることを確認するために
「エージェンティックAIは、特にタスクが反復的で、よく理解でき、低リスクの場合に多くのシナリオで大きなメリットを提供する可能性があります。」NCSCガイダンスは結論付けています。
「NCSCはこれらのメリットを実現したいという願いを理解しており、責任ある思慮深くスケーラブルな導入を促しています。小さく始め、最初からサイバーセキュリティ衛生とガバナンスを適用し、障害に備えてください（それにどのように対応するかを含む）。」
翻訳元: https://www.infosecurity-magazine.com/news/ncsc-publishes-guidance-securing/
