CISOはAIがもたらす将来のリスクについて何が確認できれば安心できるのか

今年初めに実施されたIANSのAI Security Surveyの分析によると、セキュリティリーダーたちが今後2年間にAIがもたらすセキュリティリスクに対処できるという自信は、いくつかの明確な要因に支えられていることがわかりました。

IANSが4月から5月にかけて調査した113名のCISOのうち、41%が今後24カ月間の自社のAIセキュリティリスク管理能力について楽観的な見方を示した一方、悲観的な見方をしたのは38%でした。

さらに掘り下げると、IANSは急速に進化するAIリスクへの対処に自信を持つCISOと、これから訪れる事態に不安を抱くCISOを分ける、6つの明確な組織的シグナルを特定しました。そして、それらは現在の統制や対応能力よりも、むしろCISOが組織内でどのような立場と影響力を持っているかに大きく関係していました。

「今回の調査結果からは、現在のリスク認識と、将来のAIリスクの管理可能性に対する楽観論との間に違いがあることが明らかになりました。現在のリスク認識は、AIセキュリティの成熟度――すなわち、AI環境を管理するための組織の運用能力とセキュリティ統制――と最も強く結びついています」とレポートは述べています。「一方、将来に対する楽観論は、組織の備えに関する要因とより強く結びついています」

• 経営層のAIリスクに対する理解
• 明確に定義されたAIガバナンスの所有権
• AIツールに対するセキュリティチームの活用度
• AIセキュリティ予算に対するCISOの決定権
• 持続可能なセキュリティチームの業務量
• 十分なセキュリティ要員の確保

IANSの調査結果を見る限り、現時点でのAIセキュリティの成熟度や予算の増加といった指標以上に、CISOが今後の厳しい道のりに対して楽観的でいられるかどうかは、経営陣が彼らの声に耳を傾け、権限を与え、十分な資源を割り当てているかどうかに大きく左右されるようです。

自信の裏付けとは何か

サイバーセキュリティのコンサルタントやアナリストの多くは、こうした要素が今後の企業のAIサイバーセキュリティの実効性において重要な役割を果たすという見方でおおむね一致していますが、それぞれニュアンスや留保条件を付けています。

Info-Tech Research GroupのリサーチディレクターであるPearl Almeida氏は、CISOがリスクを軽減する能力を損なう主な要因として、組織内の認識のズレと経営層のAIリスクに対する理解不足を挙げています。 

「エージェント導入に慎重だったリスク回避型のCISOたちは、そのほとんどが事業側に押し切られる形になっています。事業側の経営幹部は、準備が整っているかどうかにかかわらず前進しているのです」とAlmeida氏は述べています。「私が関わっている組織の中で、しっかりとした統制を整えているのはごく一部に過ぎません。残りの組織は、先送りがもはや許されない状況にあるため、基本的な部分から取り組み始めています」

さらに、多くのCISOはAlmeida氏が「組織の死角」と表現する問題にも直面しています。

「これまでCISOたちと話をしてきた中で、セキュリティ担当者を含む大半のリーダーが、エージェントがどのように機能するのかを説明できないことに気づきました。使わなければならないことは理解していても、その仕組み――エージェントがどこから情報を得ているのか、どのようにツールを呼び出すのか、どのように意思決定をしているのか、人間の介在(human-in-the-loop)が実際にどう機能しているのか――までは理解していないのです」とAlmeida氏は言います。「その仕組みを説明できなければ、リスクの大きさを適切に見積もることはできません」

AIガバナンスについては、明確な所有権があるだけでは十分ではないとAlmeida氏は警告します。本当の問題はセキュリティ文化にあるというのです。

「事業責任者を明確に指名することが機能するのは、セキュリティが承認プロセスに後付けされるのではなく、すでに事業運営の中に組み込まれている場合に限られます」と同氏は説明します。「責任を負おうとしない責任者は、その取引の意味を率直に理解しておくべきです。つまり、インシデント発生時に自分たちに相談することなく、セキュリティ側がそのワークフローを停止させる権限を持つことになる、ということです」

エージェントセキュリティベンダーであるZenityでAI標準・ガバナンス担当ディレクターを務めるRock Lambros氏は、楽観論には誤解を招きかねない側面があると注意を促しています。

「レポートに出てくる数値はすべて、ある人物の自己評価を、同じ人物の別の自己評価と照らし合わせただけのものです」とLambros氏は指摘します。「自社のプログラムを5段階評価で『効率的だ』と答えたばかりのCISOが、その2問後にリスクを9と評価するようなことはまずありません。人は自分自身の評価と一貫性を保とうとするものです」

特定された要因については、Lambros氏は2つの明確なグループがあると指摘しています。

「経営層の理解、明確なガバナンスの所有権、CISOによる予算管理という3つは、いずれも経営幹部や取締役会レベルでの一つの意思決定に起因するものであるため、連動して上下します」とLambros氏は述べ、業務量と要員配置についても密接に関連しており、「チームに余裕があるかどうかを測る指標になっている」と付け加えました。

備えの実態

Greyhound ResearchのチーフアナリストであるSanchit Vir Gogia氏は、IANSが特定した要因は組織の備えを示す指標にはなり得るものの、「備えとセキュリティは同じ尺度で測れるものではない」と指摘します。

「これらの要因が示しているのは、CISOが経営層の理解を得ているか、予算を管理できているか、行動を起こす余力があるかということであって、AI環境そのものが統制下に置かれているかどうかではありません」とGogia氏は述べています。

ニューヨークを拠点とするテクノロジーコンサルティング企業Tribeca SofttechのチーフストラテジーオフィサーであるAman Mahapatra氏も、Gogia氏の懸念に同調しています。

「経営層への説明が行き届いており、ガバナンスの所有権が明確で、予算を管理でき、十分な人員を抱えているCISOであれば、たとえ本番環境で稼働しているエージェントが一つも権限の範囲を定められていなくても、楽観的に感じるものです」とMahapatra氏は言います。「それはCISOが現在どのように考えているかを示す有用な指標ではありますが、セキュリティのロードマップではありません。にもかかわらず、そのように読み違えられてしまうことがリスクなのです」

一方でMahapatra氏は、セキュリティチームが社内でAIをどのように活用しているかは、備えの実態を示す実践的な指標になると指摘します。なぜなら、それは「都合の良い状況ではなく、持続的な能力を築くことにつながるから」だといいます。

そしてそれは、CISOが重視すべき点でもあります。というのも、それは「四半期を重ねる中で獲得していくものであり、だからこそ積み上がっていく」からだと同氏は言います。「自分たちのトリアージや検知チューニングにAIを活用しているチームは、プロンプトインジェクションがどこで問題を引き起こすのか、敵対的な入力に対してエージェントがどのように破綻するのかを、経験を通じて学んでいきます。そして、その知見は他のあらゆる場面でAIを守るためにそのまま活かされます」

FormerGovのエグゼクティブディレクターを務めるサイバーセキュリティコンサルタントのBrian Levine氏は、AIガバナンスの所有権には、サードパーティリスクへの注目も含めるべきだとCISOに助言しています。 

「自社の環境にどのモデルが取り込まれているのか、そしてそれらのモデルに伴うリスクを実際に把握できていなければ、ガバナンスは意味を成しません」とLevine氏は言います。「CISOにとってリスクとなるのは、自社が構築するAIだけではありません。ベンダー経由や無許可の利用を通じて引き継ぐことになるAIもリスクなのです」

コンサルティング企業Acceligenceの最高経営責任者(CEO)であるJustin Greis氏は、将来のAIリスクへの備えは、AIシステムのデータやアプリケーションとのやり取りについて、できる限り多くの情報を得られるかどうかにかかっていると述べています。

「CISOは、そのエージェントがどのIDのもとで動作しているのか、どのシステムにアクセスできるのか、どのような情報を取得できるのか、どのような取引を開始できるのか、他にどのようなエージェントやツールを呼び出せるのか、すべての重要な動作が可視化されているのか、そして組織がその権限を即座に無効化できるのかを把握しておく必要があります」とGreis氏は言います。「それはもはや、別のソフトウェアアプリケーションを保護するというよりも、デジタル労働力を管理することに近い話になっています」

Greis氏はまた、他の複数のアナリストやコンサルタントと同様に、41%という楽観論の割合が、大多数の企業のCISOが実際に感じている実態を本当に反映しているのかについても懐疑的な見方を示しました。

「CISOの半数近くがAIセキュリティの将来について楽観的だというのですか?一体それは誰のことを言っているのでしょうか」とGreis氏は問いかけます。「私が話をしている企業のCISOたちは、自分たちのキャリアの中で最も変化の速いセキュリティ課題に、冷や汗をかきながら必死に対応しているところです」

そしてそこには、タイミングの問題も浮かび上がります。4月から5月にかけて自信の度合いを尋ねられたCISOたちは、それ以降に目にしてきた事態を踏まえてもなお、同じ回答をするでしょうか。

Mythos級モデルのさらなる進化や、エージェントによる悪質な暴走行為が世間の注目を集めることで、こうした楽観論が揺らぎつつある可能性はあります。ただし、AIが組織の基礎的なセキュリティ上の弱点――なかでも組織の機能不全――を増幅させることもまた事実です。