最近公開された、スタートアップが実際にお金を払って利用している人工知能（AI）アプリケーションおよびサービスのトップ50リストによると、予想どおり、自動化、生産性向上、エンタープライズ向けAIアプリケーションに焦点が当てられており、基盤モデル企業であるOpenAIとAnthropicがリストの上位を占めている。
そのリストから欠けているものは何か？ セキュリティツールだ。
このリストは、ベンチャーキャピタル企業Andreessen Horowitz（a16z）が10月初旬に公開したもので、フィンテックプラットフォームMercuryのデータに基づいている。それによると、スタートアップは、AI搭載の開発プラットフォーム（Replit（3位）やCursor（6位））や、AIコンテンツ生成サービス（Freepik（4位）やElevenLabs（5位））といった、特定カテゴリの機能に投資していることがわかる。Mercuryは、自社の20万社におよぶ顧客すべての支出を集計したデータを収集した。
このデータは、これまでも常に存在していたが、新しい種類のアプリケーションに形を変えて現れている問題を浮き彫りにしていると、エンタープライズ向けソフトウェア・アズ・ア・サービス（SaaS）アプリケーションのセキュリティ企業AppOmniでAIディレクターを務めるMelissa Ruzzi氏は語る。セキュリティは、依然としてこれらの企業にとって最優先事項ではないのだ。
「ここで見られるのはまさに『まず作って、セキュリティは後で考える』というメンタリティです」とRuzzi氏は言う。「それはセキュリティだけでなく、スケーラビリティやメンテナビリティの面でも見られます。」
関連記事:AIセキュリティエージェントがペルソナ刷新でより魅力的に
スタートアップはビジネス界の中で独自の小宇宙であり、製品を素早くリリースするという極度のプレッシャーにさらされているが、他の企業はそのスリムなオペレーションを参考にして、何をすべきか、何をすべきでないかを学ぶことができる。リストにセキュリティアプリケーションが明示的に挙がっていないからといって、スタートアップが購買判断においてセキュリティを無視しているという意味ではないと、a16zのゼネラルパートナーであるZane Lackey氏は述べる。
「スタートアップがセキュリティを無視しているということではありません」と同氏は言う。「むしろ、コード生成からデータ管理に至るまで、彼らが使うツールの中にセキュリティがますます組み込まれているということなのです。」
セキュリティはより早い段階で発生する
創業者たちはこれまで以上のスピードでAI対応ビジネスの確立を競合より先に進めようとしており、その一環として、デジタルトラスト、データの完全性、プラットフォームセキュリティを考慮に入れているとLackey氏は言う。すでに、基盤モデルに基づく開発パイプラインに焦点を当てるもの、トレーニングデータの真正性と来歴を検証するもの、サービスに対する悪意ある攻撃を検知するものなど、AIネイティブなセキュリティスタートアップが登場し始めているという。
「まだ初期段階ですが、エコシステムが成熟するにつれて、インフラ層からメインストリームの採用へと移行していく、AIセキュリティ専用に作られた新しいクラスの企業が現れると期待しています」とLackey氏は付け加える。
関連記事:サイバーセキュリティにおけるAI実行ギャップの解消 ― CISO向けフレームワーク
しかし、スタートアップにおけるAI利用のストーリーは、10年前のクラウドアプリの状況をなぞっている。スタートアップはクラウドアプリケーションプロバイダーが自社製品にセキュリティを組み込むことを期待していたが、SaaSプロバイダーの主な目的はあくまで機能や利便性であり、セキュリティではなかったとAppOmniのRuzzi氏は主張する。そのような判断の結果として、クラウド侵害やサービス障害は頻発する問題となっている。
「あのトップ50のアプリを使うとき、人々はセキュリティがサービスの一部だと期待しているので、それらのアプリケーション向けに別個のセキュリティツールを考えたりはしません」と同氏は言う。「しかし、それは必ずしも真実ではありません。」
例えば、AI文字起こしツールやノートテイカーは急速に普及しており、Otter.aiとHappyscribeはいずれもトップ50リストに名を連ねている。しかし、それらの利用によって機密性の高いビジネス会話がオンラインに保存されるケースが増加している一方で、適切なセキュリティが施されていないことも多い。サイバーセキュリティ研究者たちはOpenAIのガードレールを回避するさまざまな方法を発見しているし、Replitは、同プラットフォームを開発に利用していた企業の本番データベースを削除してしまった。さらに、開発者がAIを使ってより多くのコードを生み出しているため、それらのアプリケーションにおけるセキュリティ負債は増大しており、シークレットのスプロールが大きな懸念事項となっている。
明示的なセキュリティが必要
少なくとも、サービスやアプリケーションを提供するスタートアップ企業は、顧客に代わって取り扱うデータに対する管理責任を考慮する必要があるとRuzzi氏は言う。利用規約や政府規制によっては、企業が顧客の個人情報を別のAIサービスに投入することが認められない場合もある。
関連記事:フィジカルへ踏み出そう：電力網セキュリティの新たなコンバージェンス
セキュリティ戦略を決めるには、スタートアップの従業員同士がコミュニケーションを取る必要があると同氏は言う。異なる機能部門が、どのAIアプリケーションを導入しようとしているのかについて情報を共有し、それらアプリケーションのセキュリティを評価しなければならない。
「マーケティング担当者がIT／セキュリティ担当者に『何を懸念すべきか教えてもらえますか？』と聞くことができます」とRuzzi氏は言う。「スタートアップにとって重要なポイントは、自社の内部にあるAIの専門知識を、AIを実装・開発するためだけでなく、他部門が利用しているAIに対しても活用することだと思います。」
データは、AIがスタートアップの構築と運営のあり方において重要な要素となっていることを示しているが、それでも彼らは強固なセキュリティの基本原則を維持する必要があると、a16zのLackey氏は言う。
「創業者は、活用するあらゆる新技術と同じ厳格さをもってAIサービスに臨むべきです」と同氏は言う。「データフローを理解し、アクセス制御を実施し、モデルへの入力と出力が適切に保護されていることを確認する必要があるのです。」
著者について
20年以上の経験を持つベテラン技術ジャーナリスト。元研究エンジニア。CNET News.com、Dark Reading、MIT Technology Review、Popular Science、Wired Newsなど、20以上の媒体に寄稿。ジャーナリズム関連で5つの賞を受賞しており、その中にはBlasterワーム報道に対して2003年に授与されたオンライン部門の「Best Deadline Journalism」が含まれる。PythonとRを用いて、さまざまなトレンドの数値分析を実施。最近のレポートには、サイバーセキュリティ人材不足や、脆弱性の年間動向に関する分析が含まれる。
