AI信頼・安全・セキュリティ企業のAliceは火曜日、新たな脆弱性や敵対的攻撃からAIシステムを守るための資金調達ラウンドで1億4,000万ドルを調達したと発表しました。
今回の資金調達により、同社の累計調達額は2億8,000万ドルに達しました。この資金は、同社のAIプラットフォームのさらなる強化、独自インテリジェンスデータセットを支えるチームの拡充、そして市場展開の加速に充てられる予定です。
今回のラウンドはApax Digital Fundsが主導し、MoreTech、Phoenix Financial、Resolute Ventures、Grove Ventures、CRV、Highland Europe、Vintage Investments、Norwest、NFX、Claltechが参加しました。
同社はAI開発企業と提携し、基盤モデルの一般公開前にストレステストを実施しています。同社の研究部門は、模擬的な悪意ある入力や複雑なエージェント型タスクを実行してモデルの不安定な挙動を洗い出し、最終的にプロンプトインジェクションやジェイルブレイク攻撃への耐性を強化します。
モデルが本番環境に投入されると、Aliceは継続的なレッドチーム演習と動的なランタイムガードレールを提供し、各企業固有のビジネスルールに運用を適合させます。組織は独自の内部ガイドラインを設定したり、侵害をシミュレートしたり、システムのトラフィックをリアルタイムで監視したりできます。
同社はRabbit Holeと呼ばれる独自のデータベースを活用しています。このデータベースは、デジタル詐欺やイデオロギー過激主義、世論操作キャンペーンを約10年にわたり追跡することで構築されました。この膨大な有害コンテンツのアーカイブを活用することで、同プラットフォームは生成AIシステムに対する敵対的な行為を検知・阻止できます。
Aliceは、機械学習アーキテクチャの脆弱性を研究する専門の研究施設も運営しています。この研究所には150人を超える専門家が在籍し、主要なモデル開発企業と連携しながら不具合を予測し、潜在的な操作の手口を分析し、セキュリティ上の抜け穴を先回りして塞ぐ取り組みを行っています。
Aliceの共同創業者兼CEOであるNoam Schwartz氏は次のように述べています。「AIを壊す方法は無数にあり、これまで見たことのない攻撃手法から身を守ることはできません。私たちはこの10年近くをかけて、人々が数十億という規模でテクノロジーをどう悪用するかを、まず世界最大級のプラットフォーム上で学び、そして今はまさにその同じ人々が探りを入れているモデル上で学んできました。私たちは防御策を民主化するよりも先に、能力の民主化を非常な速さで進めてしまっています。今回の資金調達ラウンドは、そのギャップを埋めるためのものです」
Aliceはかつてactive Fenceという社名で事業を展開しており、本社はニューヨークとテルアビブにあります。
