フロンティアAI:企業がセキュリティベンダーに問うべき6つの質問

フロンティアAIは近年、注目を集めているトピックです。実際、脆弱性の特定・緩和・パッチ適用のあり方に、フロンティアAIが及ぼす影響は広範囲に及びます。この技術の登場によって、セキュリティという職務そのものが進化を迫られるのはほぼ確実であり、多くの企業ではすでにその変化が始まっているように見えます。

私の経験では、フロンティアAIに関して企業が抱く懸念は大きく分けて2つあります。

1. 自社アプリケーションについては、脆弱性の特定・緩和・パッチ適用のペースが加速する中で、それに追いつけなくなるのではないかという懸念
2. ベンダーについては、フロンティアAIが製品セキュリティにどう影響するのか、そしてベンダー自身がフロンティアAIをどのように活用しているのかを理解したいというニーズ

最初の懸念も興味深いテーマであり、いずれ別の記事で取り上げたいと思いますが、今回は2つ目の懸念に焦点を当てます。フロンティアAIをめぐる誇大な喧伝が飛び交い、多くのベンダーがこぞってそれを語る中、企業はどうすればその喧噪から真実を見極められるのでしょうか。私の経験上、これにはベンダーに詳しく問いただし、その主張を疑ってかかり、実際の立ち位置(自称する立ち位置ではなく)を見極めるために一歩踏み込む姿勢が求められます。そのためのアプローチは様々考えられますが、私が有効だと感じているものをいくつか紹介します。

• モデルプロバイダー: セキュリティ業界では、フロンティアAIのモデルプロバイダーと提携していること自体が一種のステータスシンボルになりつつあるようです。残念なことに、業界の一部では実際には提携していないにもかかわらず、1社ないし複数のモデルプロバイダーと提携していると主張するケースが見られます。一般的に事実を偽ることは望ましくありませんが、製品セキュリティのような繊細な領域においては、これは特に問題のある行為です。企業はベンダーに対し、具体的にどこと提携し、その相手と具体的に何をしているのかを明確にするよう求める必要があります。回答が曖昧であったり、確約を避けたり、堂々巡りに終始するようであれば、それは疑ってかかるべき兆候です。
• モデル: フロンティAIモデルのプロバイダー数は少数にとどまる一方で、実際のモデルの種類は数多く存在します。企業はベンダーに対し、具体的にどのモデルを利用しているのかを掘り下げて確認する価値があります。モデルによって能力、制約、有効性、真陽性率、誤検知率は大きく異なります。そのため、ベンダーが実態以上に高度な能力を有しているかのように語ることは、決して難しいことではありません。
• 自動化: 自動化は誰もが好むものであり、それも当然のことです。脆弱性の特定ペースが加速するにつれ、自動化はプロセスに不可欠な要素になりつつあります。そのためベンダー各社は、フロンティアAIを取り巻くプロセスを自動化済みであると競って主張するでしょう。しかし、彼らが主張するほど本当に自動化が進んでいるのでしょうか。フロンティアAIは比較的新しい分野であり、急速に発展・成熟の途上にあります。そのため、セキュリティコミュニティにとって未知の成長痛や誤検知、思わぬ落とし穴がまだ数多く存在します。脆弱性の特定・緩和・パッチ適用プロセスの重要な部分を自動化すること自体は確かに可能ですが、ベンダーが「プロセス全体、あるいはその大部分を自動化した」と言い出した場合は、強い警戒が必要です。
• コンテキスト: 多くの物事においてコンテキストは極めて重要であり、フロンティアAIも例外ではありません。どれほど優れた技術であっても、組織が大量のコードをただフロンティAIモデルに投入するだけで、期待通りの結果が得られるわけではありません。モデルに入力する前に、コードを適切に整形する必要があり、その整形の精度が高いほど得られる結果も向上します。したがって、あるベンダーが「フロンティアAIを活用している」と主張していても、良い結果を確実に得るためにどのような方法でそれを行っているのか、さらに踏み込んで理解する価値があります。
• 成果: 成果というテーマに関連して、あるベンダーがフロンティAIの活用によって実際に成果を上げているかどうかを、企業はどうすれば見極められるのでしょうか。これは複雑で難しい問いですが、上記の点はその出発点として有効です。それに加え、ベンダーは真陽性・誤検知に関する指標、実際に検出された脆弱性の件数、緩和・パッチ適用までの所要時間といった、その他の重要な指標を明確に説明できるべきです。良い成果を主張するのであれば、口先だけでなく、それを裏付ける実質的な根拠が伴っていなければなりません。
• 検証・確認・裏付け: あらゆる技術と同様に、フロンティアAIも誤検知を起こしやすい側面があります。これは必ずしも悪いことではありません。斬新な脆弱性やエクスプロイトを発見するには、時にリスクを取る必要があり、それが誤検知につながることもあるからです。問題は、ベンダーがその誤検知にどう対処しているかです。脆弱性が本物であることを検証・確認・裏付けするための時間を、きちんと取っているでしょうか。また、その修正が有効であり、運用上の問題や新たな脆弱性を新たに生み出していないことを検証・確認・裏付けする時間も取っているでしょうか。ベンダーは、こうした検証・確認・裏付けに関する問いに答えられなければなりません。もし答えられないのであれば、企業側はそこで立ち止まって考えるべきでしょう。

私が好むニーチェの言葉の一つに、「真実は問われることを厭わない。嘘は挑まれることを嫌う」という的確な一節があります。たった一つの追加質問、一つの事実、あるいは一片の真実によって崩れ去ってしまう主張に、私は驚くほど頻繁に出くわします。ベンダーと顧客の関係は、根本的に信頼の上に成り立っています。ベンダーはあらゆるトピックについて、そして特に製品セキュリティという重要な問題については、顧客に対して開かれた姿勢で、透明性を持ち、誠実であることが何よりも重要です。それができないベンダーは、真剣なセキュリティ専門家にとって到底受け入れられるものではないはずです。

詳細はAI Risk Summit(Ritz-Carlton, Half Moon Bay)で | Learn More at the AI Risk Summit | Ritz-Carlton, Half Moon Bay