AIモデルに関して、セキュリティは後回しにされがちです。増加する事例が、その証左と言えるでしょう。 組織をハッキングするエージェント の例や、人々を標的にした事例、さらにはその他のセキュリティトラブル、そして暴走したエージェントの事例などが相次いでいます。しかし、ここには企業が新たなソリューションを提供できる好機も潜んでいます。
サイバーセキュリティ投資家やアクセラレーターの幹部たちによれば、これは誰にとっても驚くべきことではないといいます。
「一方では、能力を増したエージェントが独創的な、時に予想外の方法で目的を達成しようとするのは驚くべきことではありません」と、Merlin Groupの最高戦略責任者であるマット・ハートマン氏はThe Registerに語りました。「しかし他方で、有害な振る舞いを不可避なもの、あるいは制御不能なものとして受け入れるわけにはいきません」
これは、ノートパソコンからクラウドに至るまで、あらゆる新興技術で繰り返されてきた話だと、MicrosoftのベンチャーファンドM12のマネージングパートナーであるトッド・グラハム氏は指摘します。
「新しいインフラを構築するたびに、私たちは都合よくセキュリティのことを忘れてきました」とグラハム氏はThe Registerに語りました。
ここにこそ、アーリーステージのセキュリティ企業にとってのチャンスがあります。
「もしノートパソコンが標準で安全だったら、CrowdStrikeは存在しなかったでしょう」とグラハム氏は言います。「もしクラウドが標準で安全だったら、Wizは存在しなかったでしょう。もしIDが標準で安全だったら、Active Directory向けの数多くのアドオンやOktaも存在しなかったはずです」
AIセキュリティに関しては、「この潮流とともに多くの企業が波に乗ることになるでしょう」と同氏は付け加えました。
AIが他と異なるのは、モデルが進化するスピードです。企業がクラウド技術を採用するには数年単位の時間がかかりましたが、各組織はエージェントやその他のAIツールを全速力で本番環境に組み込み、最も事業上重要なデータやアプリケーションへのアクセスを許可しています。それにもかかわらず、すでに自社システム内を動き回っているエージェントをどう管理し、保護し、あるいは識別すればよいのか、しっかりとした対策を持てていません。
「これは月単位で進行している移行です。市場で見られる変化のスピードを踏まえれば、この問題がこれほど劇的な形で表面化したことに、私はまったく驚いていません」とグラハム氏は語りました。「これまでに起きたインシデントを擁護するつもりはありませんが、それらは警鐘と受け止めるべきです。今こそセキュリティを組み込むべき瞬間であり、私たちはそれをもっと速く進めなければなりません」
AIの潮流とともに「多くの企業が波に乗る」
ハートマン氏は、米国サイバーセキュリティ・インフラセキュリティ庁(CISA)での要職を含む、連邦政府のサイバーセキュリティ分野での長いキャリアを経てMerlinに加わりました。民間セクターでの役割において、同氏はグループが投資すべきアーリーからグロースステージのサイバーセキュリティ企業を見極め、それらの企業が政府機関、重要インフラ、その他の厳格な規制下にある市場に向けて技術を拡大できるよう支援しています。
「私たちが特に関心を寄せているのは、エージェントの振る舞いを統制するセキュリティ層です。つまり、人間ではない主体のためのID管理、アクセスや行動範囲の明確な制限、そして組織に代わって取られた行動の監査証跡です」と同氏は述べました。「各機関は、単にエージェントをどう導入するかだけでなく、どう制約し、火曜日の午前2時にエージェントが何をしていたかをどう証明するかを問うようになっています」
しかし、「その機会は計り知れないほど大きい」一方で、スタートアップの創業者はエージェント型AIセキュリティ製品を作るだけでは不十分だとハートマン氏は言います。「AIによって製品開発はこれまで以上に速く、安価になりました。そのため、差別化のハードルは上がり続けています」と同氏は語ります。「技術構築のコストが下がるにつれ、価値は差別化された機能や、それを市場に届ける能力へとシフトしていきます。その両方をこなせる創業者にこそ、このカテゴリーを定義する真の機会があるのです」
今こそセキュリティを組み込むべき瞬間であり、私たちはそれをもっと速く進めなければなりません
グラハム氏はまた、エンドユーザーがエージェントのID管理やガバナンス製品を求めていると指摘します。「SaaSがOktaを生み出したように、誰かが次のOktaを作ることになると本気で信じています」――しかし同時に、多くの創業者が「あまりにも小さくものを考えすぎている」とも見ています。
「問題のほんの一部分だけを解決しようとしている企業が数多くあります」とグラハム氏は言います。「現実問題として、私がフォーチュン500企業のCISOだったら、一つのことをするために15個ものツールを買うなんてことは絶対にしません。人間向けに長年構築されてきた標準的なIDスタックを見れば、そこにはガバナンス、アクセス制御、認可、アクセス管理が備わっています。エージェント向けにも、誰かがそれらすべてを網羅したソリューションを持ってこなければならないのです」
エージェントのID管理は次のユニコーン
とはいえ、人間ではない主体のIDに関しては、これは本当に大きく、難しい課題です。サービスアカウントは依然としてハッカーにとって格好の標的であり続けています。というのも、一般的に高い権限を持ち、パスワードが失効しないケースが多いためです。こうした非人間アカウントの保護は、エージェントが加わる以前から、すでにセキュリティチームを悩ませ続けてきた問題です。
エージェントのID管理に加え、AIエンドポイントセキュリティ――いわば「AI向けのCrowdStrike」――も、独創的なスタートアップにとって開拓の余地がある分野だと、グラハム氏は述べます。
同氏は、もし自分が創業者だったら個人的に取り組みたい課題だと言いますが、これ以上新たに会社を興すことは禁じられているため、それは実現しないでしょう。
「もし侵害が発生し、議会に呼び出されてなぜアンチウイルスやEDRを有効にしていなかったのかを説明させられることになれば、そのリストにAIエンドポイントもすぐに加わることになるでしょう」とグラハム氏は語ります。「誰かが質の高いソリューションを作ろうとするなら、この分野はまだ十分に早い段階にありながら非常に注目度の高い領域だと感じます」
既存のエンドポイントやアンチウイルスベンダーも「間違いなく」この空白を埋める製品を作るだろうと、同氏は付け加えました。「しかし、それでもやはり、これは誰にとっても破壊的変化が訪れる瞬間であるように感じます。特に、すでに解決すべき既存のコミットメントを抱えているベンダーにとっては、なおさらです」
グラハム氏は、最近実際に起きているAIエージェントの問題行動について「懸念している」ことを認めています。「制約されないまま、なすがままに放置されれば、この分野のエンドポイントがどうなるのか、私は非常に危惧しています」と同氏は述べました。
それでも同氏は、セキュリティがインフラの発展に追いつこうと奮闘してきたこうした状況を過去にも見てきたため、「安心感」も抱いているといいます。また、グラハム氏はAnthropicのCEOであるダリオ・アモデイ氏による、今や悪名高くなった「私たちはフロンティアのペースを保たなければならない」というエッセイにも「嬉しい驚きを覚えた」と語りました。
「これが独禁法を回避するための何らかの壮大な陰謀だ、といった皮肉な見方は取っていません」と同氏は私たちに語りました。
「私は、AIが多くの人々の人生を根本的により良い方向へと変える、素晴らしいツールだと信じています。しかし今こそ、その基盤を整える作業に取り組まなければなりません」とグラハム氏は語りました。「私たちはこれまで十分すぎるほど長く、セキュリティという課題を先送りにしてきました。今こそ、それに取り組むべき時です」 ®
