PwCの調査によると、サイバーセキュリティ責任者が現時点で最も対処に自信を持てない分野は、AIシステムを標的とする脅威でした。スキル、責任の所在、データ保護の面でも、ギャップが大きな課題として浮かび上がっています。
このコンサルティング大手は、71カ国のビジネス・テクノロジー部門のリーダー3934人を対象に調査を実施し、10月1日に報告書「2027 Global Digital Trust Insights」として公表しました。
回答者の過半数(52%)が、敵対的AI攻撃こそが最大のサイバー対応力のギャップだと答えています。
こうしたリスクへの対応を難しくしているのが、ガバナンスの問題です。
PwCによれば、AIリスク管理の責任を担う体制は一つに定まっていません。回答者の意見は、CIO、CTOまたはテクノロジー部門(29%)、専任のAIリーダーまたはAI部門(26%)、CISOまたはサイバー部門(17%)に分かれました。
一方で、CEOとセキュリティ・リスク部門のリーダーの3分の1(33%)は、最高AI責任者(CAIO)など、専任のAI担当役職をすでに任命したと回答しています。
データリスクも拡大しており、AIリスクにも影響を及ぼしています。データ分類(49%)とデータ損失防止(48%)のポリシーを完全に導入済みと答えた組織は、約半数にとどまりました。
敵対的AIに関する関連記事:研究者がLLMガードレールに重大なセキュリティ上のギャップを発見
とはいえ、将来に楽観的な見方も多くあります。セキュリティ部門と財務部門の責任者の84%が予算の増加を見込んでおり、この割合は2025年より6ポイント高くなっています。また、過半数(58%)がAIをサイバー予算の優先事項の上位5位以内に挙げました。
AIに関して最優先で取り組むべき項目は、責任あるAIガバナンス(42%)、プラットフォームの堅牢化(38%)、サプライチェーンのセキュリティ(35%)です。
同時に、各組織はサイバー防御へのAI活用にも意欲的です。具体的には、脅威の検知とアラート(50%)、不正検知(43%)、フィッシングの検知と対応(42%)が挙がっています。
深刻なスキル不足
スキル不足は、AIセキュリティを前進させるうえで依然として大きな障害です。
CISOの5分の2超(44%)が、AIの監督とガバナンスに関する人材のスキルを、AIエージェントの自律性を高める際の主な障壁の一つに挙げました。
これは重要な点です。半数超(55%)が、技術の信頼性がエージェントの幅広い導入を妨げていると回答したためです。
ただし、AIはこの問題の解決策の一部にもなり得ます。回答者の過半数(53%)が、スキルギャップを埋めて従業員を定着させるための最優先事項の一つとして、AIを活用した研修を挙げました。ほかには、成長機会の拡充(59%)や、強固なサイバー文化の醸成(53%)が挙がっています。
Swimlaneの最近の報告書 によると、SOC担当者の62%が、AIはすでにSecOpsのスキル向上に役立っていると考えています。
翻訳元: https://www.infosecurity-magazine.com/news/mitigating-adversarial-ai-top/