「もはや組織がAIを導入すべきかどうかは問題ではない。問題は、すでに導入したAIを説明し、統治し、信頼できるかどうかだ」…


  • 75%が過去6カ月間で4つ以上のAIツールを導入、35%は10以上を導入
  • それにもかかわらず5社中4社がAI関連のセキュリティインシデントや脆弱性を経験
  • ガバナンスと専用セキュリティ予算が解決策の一部になり得る

DigiCertの新しい調査データによると、AIへの投資と導入が拡大を続けているにもかかわらず、組織の5社中4社(78%)がAI関連のセキュリティインシデントを経験するか、AI関連の脆弱性を発見したことがあると回答しています。

セキュリティ面での不透明さが残るにもかかわらず、調査対象企業の4分の3が過去6カ月だけで4つ以上のAIツールを導入しており、3分の1(35%)は同期間に10を超えるAIシステムを導入しています。

この新たなデータを受け、DigiCertは組織に対し、AIを実験的なおもちゃとしてではなく、他の業務システムと同様に扱い、セキュリティを戦略全体に深く組み込む必要があると指摘しています。

大半の企業にとってAIがセキュリティ上の頭痛の種に

議論自体は明らかに進んでいるものの、対策の展開は遅れています。例えば、90%が経営幹部や取締役会レベルでAIガバナンスについて議論している一方、専用のAIセキュリティ予算と正式なAIガバナンスプログラムの両方を導入済みなのはわずか50%にとどまっています。

長年にわたる試験導入を経て、3分の2(64%)の企業がようやくAIインベントリの記録を開始しており、これは自社内にどのようなAIが存在するかをいまだ把握し切れていないことを示唆しています。現在、半数近くがAIシステムの一元的な可視性を欠いており、AIの出力を基盤となるモデルや元データまで完全に追跡できる企業はわずか53%です。

「もはや組織がAIを導入すべきかどうかは問題ではない。問題は、すでに導入したAIを説明し、統治し、信頼できるかどうかだ」と、SVPのBrian Trzupek氏は説明しています。

AIの説明可能性については、米国、英国、オーストラリアなど複数の地域・国でおおむね半数程度と一貫した水準を保っている一方、業種によってインシデントや脆弱性の発生状況には差が見られます。特に科学技術、銀行、通信、小売の各分野で発生が多くなっています。

今後を見据え、多くの企業は現在、人間の従業員と同様にAIエージェントに独自のIDを付与する試みを進めており、自律的な行動全体の可視性向上を図っています。より強固なガバナンスと、未承認ツールの利用を排除する厳格なポリシーも、AI導入が成熟していく中で企業が拡大するセキュリティ課題に対処する助けになるはずです。


翻訳元: https://www.techradar.com/pro/the-question-is-no-longer-whether-organisations-should-adopt-ai-its-whether-they-can-explain-govern-and-trust-the-ai-theyve-already-deployed-many-companies-deploying-ai-often-end-up-with-much-bigger-security-issues

ソース: techradar.com