企業はAIへの投資を増やす一方で、AIシステムへの攻撃を、最も対応準備が整っていない脅威に挙げています。PwCは2026年5月から7月にかけて、71カ国のビジネス・テクノロジー部門のリーダー3,934人を対象に調査を実施しました。このうちセキュリティ・テクノロジー部門の幹部の半数が、こうした攻撃を準備不足の上位5項目に挙げました。リストに並ぶほかのどの脅威よりも高い順位です。
AIを使った攻撃について尋ねたリーダーの半数超が、上位5項目のうち3つとして次の脅威を挙げました。1つ目は、AIが大規模に制御するボットネットです。2つ目は、AIシステムが見る情報をわずかに改ざんして誤った回答を引き出す敵対的攻撃です。3つ目は、モデルが学習するデータに誤解を招くレコードを紛れ込ませるデータポイズニングです。PwCは、最先端のAIモデルがすでに未知のソフトウェア脆弱性を発見し、人間のほとんど関与なしに悪用できると評価しています。
予算は増加、事業継続の備えは未整備
調査対象のセキュリティ・財務部門のリーダーのうち、84%がサイバー予算の増加を見込んでおり、AIはその優先投資分野の上位に入っています。ところが、サイバーインシデントに備えた事業継続計画を完全に文書化しているリーダーは39%にとどまります。ここでいう計画とは、攻撃後も重要な業務を継続し、あるいは復旧させるための手順を文書にしたものです。4分の1近くは、正式な計画の策定にまったく着手していません。PwC自身も、サイバーインシデントは「起きるかどうか」ではなく「いつ起きるか」の問題だと述べています。
AIを支えるデータ基盤は脆弱
平均的な企業が組織全体で導入しているデータリスク対策は、7項目のうち3項目です。機密データを把握するという基本的な対策であるデータ分類を実施している企業は、約半数にとどまります。PwCは、AIの信頼性はその土台となるデータの信頼性を超えられないと主張しています。今年AIツールを導入する場合は、そのツールがどのデータにアクセスできるのか、そのデータがどれだけ適切に保護されているのかを確認すべきです。
AIに単独で行動させる企業は少数
防御面では、AIエージェント（自律的に行動するソフトウェア）に、人間の承認なしで攻撃の封じ込めや修復を任せるというリーダーは、4分の1に満たない状況です。大半は、エージェントの権限を低リスクの操作に限定するか、人間が主導権を握る体制を維持するとしています。半数超が、技術の信頼性と成熟度を最大の障壁の一つに挙げました。
ロイズ・バンキング・グループの最高セキュリティ責任者であるマット・ロウ氏は、「AI時代に成功するには、マシンの速度で防御できなければなりません」と語っています。
AIリスクの責任者をどこに置くかについても、企業の対応は分かれています。3分の1は最高AI責任者（CAIO）などAI専任の役職を設けました。一方で、テクノロジー部門やCISOに任せる企業もあります。
エージェントの出力は確率的です。つまり、正しい可能性は高いものの、正確さが保証されるわけではありません。PwCは、結果が毎回正しくなければならない場合、エージェントの作業を、エージェント自身が影響を及ぼせない統制に通すよう助言しています。たとえば、レビューや承認ワークフロー、別システムによるチェックなどです。
翻訳元: https://www.helpnetsecurity.com/2026/10/02/pwc-attacks-on-ai-systems/
