セキュリティ業界のアナリストたちは今や、ログのトリアージからインシデントの報告書作成まで、日々の業務で生成AIを常用しています。サイバーセキュリティ戦略における実際の活用率は、2026年には実務者の78%に達し、1年前の半数から大きく増加しました。IT・セキュリティ専門家536人を対象とした2026年SANS AI調査は、こうした取り組みを維持するために何が必要になるかを描き出しています。
この1年、信頼性は導入ペースに追いついていません。実務者の63%が、AIによる脅威検知や対応に重大な欠陥があると報告しており、これは1年前の割合を大きく上回ります。こうした不具合は、誤検知、新種の脅威を見逃すこと、そして自信満々でありながら結果的に誤っている出力に集中しています。本番環境でAIを運用するチームは、これを日常的な経験だと語っています。
信頼度はタスクによって異なり、この調査は実務者がどこに線引きをしているかを示しています。「私たちのデータによれば、実務者は脅威の分類や脆弱性の優先順位付けをAIに任せることには抵抗がない一方で、真陽性の確認や行動異常の判定をAIに委ねることにははるかに抵抗を感じています」と、SANS認定インストラクターでインシデントレスポンダーのMatt Bromiley氏はHelp Net Securityに語っています。「これらのツールは、構造化された問題には強く、新規性が高く文脈依存の判断には弱いという特性を持っています。その勘所を養うには、あるツールの失敗パターンを学び、誤った場合のコストに見合った検証をすることが必要です」
ある調査回答者は、AIをデジタルインターンのように扱い、その成果物をチェックしていると説明しています。Bromiley氏も自身を同じ立場だとしています。「『二度測って一度で切る』という考え方には全面的に同意します。残念ながら、その勘所を養えるだけの計測体制を整えているチームはほとんどありません」と同氏は述べています。
この勘所は、ある程度までは訓練で身につけられます。「インストラクターとして言えることですが、座学は人々が思う以上に効果があります」とBromiley氏は語ります。「失敗のパターン、計測の仕組み、行動する前に何を検証すべきか、そしてシステムをどれだけ並行稼働させればずれが見えてくるかは教えられます。講義で教えられないのは、ある出力がどれだけの疑いに値するかというキャリブレーションの感覚です。良いトレーニングとは、そうした経験の反復を、間違えてもコストが低い環境の中に凝縮することに他なりません」
同氏が埋めたいとするギャップは、数字にも表れています。実務者の3分の2は、この1年で少なくとも一度はAIの助言に誤誘導された経験があり、9%は20回以上そうした経験をしています。
攻撃側の存在が、その判断力に締め切りを課しています。Bromiley氏は、攻撃者の速度が結果を左右したインシデントについて語っています。「私が対応したある事案では、まさにそのテンポに驚かされました」と同氏は言います。この侵入は、悪意あるパッケージを介したサプライチェーン侵害として始まり、信頼された環境の内部に足場が築かれました。そこから攻撃者は内部偵察を経て、数分のうちに横展開へと移行し、次々とスクリプトを展開していきました。「ペースは非常に速く感じられました。攻撃者が持ち込んでいたスクリプトも、明らかにコメントが丁寧に書かれ、手順を追いやすいものでした。これは『フレンドリーなAI開発スクリプト』の特徴と一致しています」とBromiley氏は述べています。
「帰属の判断には慎重であるべきです。私たちは、その構造と反復速度からこれらのスクリプトをAI生成の可能性が高いと評価しましたが、確たる証拠を回収したわけではありません」と同氏は語ります。同氏のケースは、調査データの中では「疑われる」に分類される事案です。「AIを活用した攻撃を報告した組織の78%のうち、45%が確認済み、33%が疑いありという結果でした。私のケースは後者に該当します」と同氏は述べています。
同氏が防御側に考えてほしいとするのは、このタイミングの計算です。「変化したのはケイデンス(展開の速さ)です。通常、偵察から横展開までの過程は遅く、手作業で行われるため、防御側にとって時間的猶予が生まれます。しかし今回のケースでは、その猶予がほとんどありませんでした」とBromiley氏は述べています。「検知のしきい値やオンコール体制は、攻撃者が一定の滞留時間を持つという前提の上に成り立っており、その前提こそが圧縮されつつあります」。偵察から横展開までは通常、遅く手作業的に進み、その遅延こそがチームが追いつくための猶予になります。それが失われれば、余裕も同時に失われます。
振り返って、Bromiley氏は最初のアラートが鳴る前にチームが備えておきたかったことを挙げています。「彼らが求めていたのは、ソフトウェアサプライチェーンの正確な棚卸し、偵察段階をリアルタイムで可視化するアウトバウンド通信のログ記録、そして足場が広がりすぎないようスコープを絞ったサービスアカウントでした。これは調査結果とも一致しています」と同氏は述べています。「実務者は、行動検知、ユーザー啓発トレーニング、人間のアナリストによるレビュー、そしてゼロトラストを、AIを活用した脅威に対して最も効果的な対策として評価しています。AI専用の対策は最下位です。行動検知が有効なのは、攻撃者が書いたスクリプトの内容ではなく、実際に行った行動を監視するからです。速度への対策として目新しい手段は不要で、むしろ求められるのは、対策が欠けていてもチームが即興で対処できるだけの余裕を確保することです」
同氏が挙げた対策は、調査全体の結果とも符合しています。防御側は主に行動ベースおよび人間中心の対策に重点を置いており、専用のAIツール群は評価リストの最下位に位置しています。訓練を受けた懐疑的な人間こそが、持続可能な防御の中心にあるという結果は、Bromiley氏が繰り返し立ち返る「勘所」の課題とも一致しています。
今後12ヶ月間で試されるのは、各組織がすでに踏み出している導入に対して、備えのギャップを埋められるかどうかです。調査は、精度と再現率を追跡する検証体制、アナリストが日々触れる対策の中に組み込まれたガバナンス、そして直近の運用課題として扱われる人材育成の必要性を指摘しています。Bromiley氏のケースは、その理由を具体的に示しています。AIを活用した侵入のテンポは、防御側がまさにその勘所を養うために積み上げてきた時間そのものを奪い取ってしまうのです。
翻訳元: https://www.helpnetsecurity.com/2026/07/14/ai-attacks-skeptical-human/
