AIが運用上の仮定をストレスポイントに変えるとどうなるか？
従来、エンタープライズセキュリティの運用モデルは固定的で定期的なサイクルで動作していました。定期的なスキャンを通じて調査結果が浮かび上がり、セキュリティチームが結果をトリアージし、チケットベースのワークフローを通じて修復が進行していました。それはある種の標準的な手順でした。アカウンタビリティは存在していましたが、多くの場合、暗黙的で断片化していました。修復はシステム自体に設計されるのではなく、ツール、チーム、ハンドオフを横切って進んでいました。結果はどうなったでしょうか？製品はすでにライブで、セキュリティチームはアラームを上げて次の大きなリスクの特定に移っていましたが、修復は遅れ続け、インシデント対応チームはMSIで忙しくなり続けていました。
そのモデルは主に、修復のための意思決定速度がときに「失敗が速く、破壊が速い」イノベーションに有利に取引されていたため、一緒に成り立っていました。出荷が約束されたコードをスコープとした手動レビューのみを使用したカバレッジの構造、定期的なスキャナーレポートのトリアージ、および遅延した優先順位付けは、ソフトウェア配信が測定可能なペースで進むときに十分でした。
AI-ネイティブ製品開発は、その均衡を根本的に変えました。
LLMベースのAI支援セキュリティトリアージを採用することで、チームが脆弱性の検出、トリアージ、優先順位付けを加速し、問題の特定と意思決定の間の遅延を排除することができます。調査結果はもはや、メタデータなしで誰かに拾い上げられるのを待つキューに入ったスキャン出力の束として到着しません。それらはコンテキストで到着します。悪用可能性インジケーター（外部とアプリ/プラットフォームに特有の両方）、所有権メタデータ、およびビジネスへの影響シグナルです。
このシフトは、単にトリアージの速度を上げるだけではありません。チームに脆弱性を所有している人、何が修正されるかを決定する人、それらの決定がどのくらい速く起こるかを再考するよう強制します。既存の運用モデルは追いつくことができません。完全にコンテキスト化されて到着し、即座の行動を要求する調査結果を処理するために構築されていませんでした。
AIがそれを可視化するまで、アカウンタビリティは暗黙的でした
従来の脆弱性管理は抽象化に大きく依存していました。スキャナーはダッシュボードに調査結果を供給し、バックログに蓄積されたチケットを生成しました。チームはワークフロー自体を所有権の割り当てと見なしていましたが、誰もあらかじめ責任あるチームまたは役割を明示的に指定していませんでした。
実際には、これは混乱を生み出しました。脆弱な依存関係が複数のサービスに表示されたとき、または新しいインテリジェンスに基づいて深刻度が変わったとき、「誰がこれを所有していますか？」を理解することは、システムが単に知っていたことではなく、手続き的な演習になりました。
AI駆動型プラットフォームはその動的を変えます。発見から修復まで、完全なライフサイクル全体にわたって調査結果を相関させることで、検出時に所有権を浮かび上がらせます。脆弱性がリポジトリ、パイプライン、責任あるチームに直接マップされるとき、アカウンタビリティはチケットルーティングの問題ではなくなります。それはシステムアーキテクチャに組み込まれます。
かつての調整問題は、ガバナンスの質問になります。何かが検出された瞬間に所有権が明確になった場合、それに対して行動する責任は誰ですか？
AIトリアージはセキュリティチームの役割を再定義します
AIシステムが高い信頼度で脆弱性をますますトリアージするにつれて、セキュリティチームは責任の微妙だが重大なシフトに直面しています。
人々はもはや、AIがノイズを削減できるかについて議論しません。それは明らかに可能です。より難しい質問は、トリアージが自動化されたら、どのような責任がセキュリティチームに残るかということです。彼らは個々の調査結果を処理する責任、モデルの正確性を確保する責任、または決定システム自体を管理する責任があるのでしょうか？
実際には、効果的なプログラムはハイブリッドモデルに落ち着いています。AIがルーチンアラートをトリアージし、高リスク項目にフラグを付けるようにします。アナリストに異常な信号を調査させ、決定規則を調整し、例外を承認させます。メトリクスは同様にシフトします。欠陥を数える代わりに、チームは偽陽性率、カバレッジへの信頼度、およびモデルのパフォーマンスが時間とともにどのように変化するかを追跡するようになります。
このトランジションは、セキュリティ専門知識がどのように使用されるかを変えます。チームは手動トリアージにより少ない時間を費やし、システムが下す決定の品質を確保することに多くの時間を費やします。
「人間がループする」はなぜまだ規模で重要なのか
完全に自律したセキュリティテストはしばしば最終目標として枠組みされていますが、実際には、新しいアカウンタビリティギャップを導入しています。システムが定義された人間のチェックポイントなしに決定を下すときに、責任は拡散するようになり、特にそれらの決定が本番環境に影響を与える場合です。
最も効果的なAI駆動型セキュリティプログラムのいくつかは、故意に人間の決定ポイントを維持しています。ボトルネックとしてではなく、アカウンタビリティチェックポイントとして。自動化は検出と濃縮を加速させます。人間はハイステークスの結果に対する権限を保持しています。
より広いAIセーフティ研究には有用な平行が存在します。たとえば、Googleの「Big Sleep」プロジェクトは、AIが攻撃者が行う前に悪用可能な脆弱性を特定できることを証明しました。しかし、それでも調査結果を検証し、適切な行動を取るために人間の監督が必要でした。
エンタープライズセキュリティでは、同じ原則が適用されます。自動化はインサイトをスケーリングします。人間は結果に対して責任を所有しています。
AI機能は新しい所有権の境界を導入します
組織が製品に生成AIを追加するにつれて、新しいセキュリティ質問のクラスが浮かび上がります。プロンプトインジェクション、トレーニングデータリーク、およびモデル操作は、既存のセキュリティカテゴリに適合しません。
これは新しい所有権の境界を作成します。製品セキュリティチームは、AIおよびMLエンジニアリングチームと密接にパートナーシップを結ぶ必要があります。コードセキュリティ、モデルの動作、および悪用防止を誰が所有するかを決定します。
AI機能を既存のものの拡張ではなく、第一級のリスク表面として扱うことは、明確さを強制します。今、明確な所有者を割り当てて、これらのリスクがインシデントまたは監査結果になる前に特定されるようにしましょう。
AIは単にセキュリティワークフローを加速させるだけではありません。それは、アカウンタビリティ、所有権、および意思決定が最初に明確に定義されたことがない場所を暴露します。運用モデルを再設計せずにAIを力の乗数として扱う組織は、より速く動く可能性がありますが、必ずしも安全ではありません。成功するチームは、明示的な所有権、管理された決定、および結果が最も重要な場所での人間のアカウンタビリティのために再設計するチームです。
この記事はFoundry Expert Contributor Networkの一部として公開されています。
参加しますか？
