新しいセキュリティ研究:AIへの信頼はガバナンスで決まることが判明

AI導入が深化する中、セキュリティチームは難しいジレンマに直面しています。迅速に進める方法と、新たなセキュリティ、プライバシー、データ流出リスクを管理する方法をどのようにバランスさせるかということです。

Tinesの「セキュリティの声2026」レポートは、1,800人以上のセキュリティリーダーおよび実務者を対象に調査を実施し、AI時代においてセキュリティチームがどのように進化しているかを理解しています。調査結果は、AI ガバナンスが2026年の中心的な優先事項であることを示しています。組織の50%がすでに正式で活動的なAIポリシーを導入しており、さらに42%がポリシーを策定中です。しかし、セキュリティとコンプライアンスの懸念は依然として自動化の効果的実施への最大の障壁であり、回答者の35%がこれを指摘しています。

以下では、データが明かすことと、リーダーがイノベーションを可能にしながらコントロールと可視性を維持する方法について探ります。

最大のAIリスクは組織内部にある

2026年に予想される最大のセキュリティ課題の多くは、組織内でAIがどのように使用されるかから生じています。主なリスクには、AIコパイロットとエージェント経由のデータ漏洩(22%)、規制要件の変化(20%)、およびシャドウAI(18%)が含まれます。

これを管理するために、組織はチームがAI出力に依存し、ワークフロー全体で一貫して使用できるように明確なポリシーとガードレールが必要です。AIガバナンスは、業務を予測可能に保つコントロールとプロセスを提供します。これは非コンプライアンス、データ流出、および無認可のAI使用などのリスクを軽減しながら、チームがAIの完全な運用価値を捉えるために迅速かつ自信を持って進むことを可能にします。

ポリシーの成熟度が信頼を決定する

組織はすでにガバナンスニーズに対応しています。50%が正式で活動的なAIポリシーを導入していますが、さらに42%がポリシーを策定中です。特に5,000人以上の従業員を持つより大規模な組織は成熟したポリシーを持つ可能性が高いのに対し、より小規模な組織はまだ追いついています。

研究は、AIポリシー成熟度と信頼の間に明確な関係があることを示しています。正式なAIポリシーが存在する場合、回答者の65%がAI出力はセキュリティ決定で使用されるヒューマンインザループチェックおよび他のガードレールの対象であることに非常に自信を持っています。これはまだポリシーを開発中の組織では25%に低下し、ポリシーが存在しない場合は17%まで低下します。

AI導入単独では信頼を保証しません。構造化された監視が重要です。

AIはチームがルールを策定するのに役立つ

セキュリティチームがガバナンス設計に単独で取り組む必要はありません。研究は、AIがコンプライアンスとポリシー作成で既に強力に機能していることを示しており、回答者の56%がこれを非常に効果的と評価しています。これは回答者がAIが優れていると言う3つの主要な職務の1つです。

重要な決定を推し進めるには人間の判断が依然として不可欠です。しかし、AIはドラフト、要約、およびドキュメント化作業を加速でき、ガバナンスを定期的な監査活動から、チームが定期的に使用する運用ワークフローに変えることができます。

実践中のガバナンス設計

セキュリティリーダーは、期待を明確で繰り返し可能なものにすることで、ガバナンスを組織全体で機能するシステムに変えることができます。

  • 承認されたユースケースを定義することで、チームはAIを使用できる場所と反復的な雑務を排除し、効率を上げるべき場所を知ることができます。限定的なユースケースのセットから始めて、信頼度が上がるに従って拡張してください。
  • 承認されたAI使用とツール周辺のガイドラインを文書化して共有する
  • 判断が重要な場所(調査、ポリシーレビュー、行動が実施される前にコンテキスト理解が必要な異常トリアージなど)でヒューマンインザループチェックポイントを設定する
  • ワークフローとツールを標準化することで、矛盾した使用とシャドウAIを削減してください。
  • AIと自動化を使用してガバナンスの主要部分(証拠収集、ポリシー管理、監査準備など)を促進する
  • 法務、リスク、コンプライアンスと協力することで、ポリシーを組織全体で使用可能にし、組織全体の支持を促進してください。

明確なガードレールは躊躇を取り除きます。人々がAIが何をすることが許可されているか、いつレビューが必要か、および決定がどのように検証されるかを知っているとき、彼らは実際のワークフローで自信を持ってそれを使用できます。

実験から信頼できる運用AIへ

AIはセキュリティ運用の基本であり、99%のSOCチームがこれを使用しています。リーダーはガバナンスを素晴らしい無駄なオーバーヘッドではなく、戦略的インフラストラクチャとして扱う必要があります。明確なポリシーとガードレールにより、組織はAIを安全にスケール、ビジネス敏捷性をサポート、および新興の脅威から保護することができます。

ガバナンスはAIを孤立したパイロットから信頼できる運用機能に変えるのに役立ちます。セキュリティチームがどのように進化しているかについてさらに深く知りたいですか?今すぐ完全なレポートをダウンロードすることで、さらに多くのインサイトと実行可能なヒントを取得してください。

翻訳元: https://www.cybersecuritydive.com/spons/new-security-research-finds-governance-determines-trust-in-ai/811962/

ソース: cybersecuritydive.com