AIの問題が2028年までにインシデント対応の半分を占めるようになる、Gartnerが発表

カスタムビルトAIアプリケーションは、セキュリティチームが早期にプロジェクトに関与できない限り、今後数年間でセキュリティチームに大きな悩みの種となるとGartnerが警告しています。

アナリストは、2028年までに企業のインシデント対応努力の少なくとも半分が、これらのアプリに関連するセキュリティ問題の後始末の管理に充てられると予測しています。

「AIは急速に進化していますが、多くのツール、特にカスタムビルトAIアプリケーションは、十分にテストされないまま導入されています」とGartnerのVPアナリスト、Christopher Muxterが警告しました。「これらのシステムは複雑で動的であり、時間の経過とともに保護するのが難しいです。ほとんどのセキュリティチームは、AI関連のインシデント処理の明確なプロセスがないため、問題の解決に時間がかかり、はるかに多くの努力が必要になります。」

セキュリティチームが「左シフト」を実行することで、最初から適切なコントロールが組み込まれていることを確保できると、彼は付け加えました。

AI脅威の詳細情報をご覧ください：Gartner：企業の40%がシャドウAIセキュリティインシデントの影響を受ける。

しかし、GartnerはまたAI駆動型セキュリティツールの役割の増加も予測しました。2年以内に、組織の半分がサードパーティのAIサービス使用とカスタムビルトAIアプリを保護するためにAIセキュリティプラットフォームを使用するようになると主張しています。

アナリストによれば、これらのツールはチームが許容可能な使用ポリシーを実施し、活動を監視し、AIアプリ全体に一貫したガードレールを適用し、プロンプトインジェクション、データの誤用、およびその他の脅威から保護するのに役立つということです。

Gartnerは、AI駆動型の「アイデンティティ可視性およびインテリジェンスプラットフォーム」も、組織が人間とマシンアイデンティティの検出と修復の改善を目指すにつれて、発展する予定だと述べました。

昨年のSysdigレポートによれば、マシンアイデンティティが現在人間のユーザーを40,000対1で上回り、7.5倍のリスクをもたらしていると主張しています。過度な権限を持つAIエージェントは特に懸念されています。

ソブリンティが中心舞台へ

Gartnerの予測はAI分野を超えて拡張されました。

来年までに、組織の約3分の1（30%）が、継続的な地政学的リスクを軽減するためにクラウドセキュリティコントロールの「包括的なソブリンティ」を要求するようになると主張しています。

Gartnerは、地域の規制要件と地政学的混乱がこのアプローチの変化を推進しており、CISOがソブリンティ要件の定義に重要な役割を果たす必要があると述べました。

しかし、英国のスタートアップArqitが先月行った研究によれば、このような要件が賢明に処理されない限り、イノベーションの足かせになる可能性があることが明らかになりました。

回答した組織の約62%が、データソブリンティとプライバシーリスクを、パブリッククラウドを使用する際のAIプロジェクトを遅延させる最大の要因として挙げました。

「同時に、6社に1社は主権施設をまったく保証できないと述べており、現在のところ主権エッジ環境に依存できるのはわずか8%です」とArqitのCEOであるAndy Leaverは述べました。

「そのギャップはまさに、セキュリティリーダーがデータ転送時に対するより強いコントロール、暗号化に対するより良い可視性、およびクラウドとエッジ全体で信頼を構築する実用的な手段が必要な場所です。」

Arqitおよびその他は、セキュリティを損なわずにソブリンティを達成する手段としてコンフィデンシャルコンピューティングを推進しています。これはプロセッサレベルで安全なエンクレーブを作成して、使用中のデータを分離し保護するテクノロジーアプローチです。