AI導入に伴うセキュリティ懸念の増加に頭を悩ますCIO

ダイブ・ブリーフ

Logicalisのデータによると、CIOがイノベーションとリスクのバランスを取るために苦労する中、AIが重要なツールとしても、成長する脅威としても出現しています。

最初に公開された

ダイブ・ブリーフ: 

• CIOにとってAIのセキュリティが最優先事項となっているとのことです。月曜日に発表されたLogicalisレポートでは、世界中の1,000人以上のCIOを調査した結果、4人に1人以上がAIを重大なリスクの源と見なしており、マルウェア、ランサムウェア、フィッシングなどの従来の脅威とほぼ同等に位置付けていることが分かりました。 
• 従業員によるAIの悪用が懸念を増幅しており、57%のCIOがスタッフがデータセキュリティを危険にさらしていると述べています。ただし、リスクが増加しているにもかかわらず、AIガバナンス対策は限定的であり、わずか37%の組織のみが使用中のAIツールの可視性を持っていると述べています。 
• AIの出現がもたらす課題は十分に大きく、Logicalisレポートの回答者の約半数がAIが「発明されなければよかった」と述べています。

ダイブ・インサイト:

従来の脅威はCIOにとって依然として支配的な懸念ですが、AIは、シャドウAI、アプリ拡散、監視の欠如など重大な問題に直面するビジネスリーダーがリスクとしてますます引き合いに出すようになっています。

既に緊張しているセキュリティチームは、ブラインドスポットの増加に直面して失地を回復しており、3分の1以上が侵害検出能力の低下と悪化するインシデント対応時間を報告しています。 

同時に、AI の社内悪用は新しい職場の課題をもたらしています。回答者の3分の2がAIリスク管理に関する従業員研修が不十分であると述べており、CIOの94%がサイバーセキュリティスキルの不足を報告しています。 

脅威の増加に伴い、スキルアップの再構築と侵害後の修復支出が増加していますが、対応を反応的から予防的へシフトするために、より多くのことを行う必要があります。

「AIはサイバーセキュリティにおける強力な力ですが、適切なスキルとガバナンスがなければ、保護よりも多くの脆弱性を生み出す可能性があります。」とLogicalis Groupのセグリン・ボブ・ベイルコスキーCEOはレポートで述べています。「CIOは自らの組織をAI駆動型の脅威から防御するという困難な課題を担当していますが、それらの組織を保護することを目的とされたまさにそのAIツールがもたらすリスクからも防御する必要があります。」 

これに対応して、ベイルコスキーはCIOにAIイニシアチブの開始時点からガバナンスと透明性を統合し、長期的な安定性を確保することを提案しています。

調査結果は業界全体の懸念と一致しています。Cloud Security AllianceとThalesからの最近のレポートでは、非構造化データと不十分に管理されたAIパイプラインがエンタープライズ攻撃面を拡大しており、調査対象企業の68%がデータの大部分が保護されていないと述べています。

信頼できるデータ、AI固有のスキルアップ、改善されたガバナンスは、同様にリスク軽減のための重要なツールとして特定されました。

プロジェクト・グラスウィングなどのイニシアチブ、Anthropicの最近発表されたソフトウェア脆弱性の特定と修復の取り組みは、テクノロジー導入に伴ってガバナンスを拡大するという成長する動きをさらに強調しています。

このイニシアチブはAWS、Apple、Broadcom、Cisco、Googleなどのパートナーと共に立ち上げられ、これらパートナーはAnthropicのClaude Mythosプレビューモデルを使用して脆弱性を特定および修復します。