イスラエルの企業Irregular（旧称Pattern Labs）は、水曜日にAIセキュリティラボのために8,000万ドルを調達したと発表しました。
CEOのDan Lahav氏とCTOのOmer Nevo氏によって設立された同社は、人工知能モデルをテストする「最先端AIセキュリティラボ」を構築したとしています。
Irregularは、脅威アクターによる悪用の可能性や、モデル自体に対する攻撃への耐性を判断するために、AIモデルをテストすることができます。
Irregularは、すでに年間数百万ドルの収益があると主張しており、AIセキュリティのためのツール、テスト手法、スコアリングフレームワークを構築していると述べています。
同社は、OpenAI、Google、Anthropicなどの主要なAI企業と「肩を並べて」取り組んでおり、ClaudeやChatGPTに関する研究論文も複数発表しています。
CEOのLahav氏は「Irregularは、AIの未来がその力強さと同様に安全であることを確実にするという野心的なミッションに取り組んでいます。AIの能力は驚異的なスピードで進化しています。私たちは、一般公開前の最先端システムをテストするためのツールや、AIが責任を持って大規模に展開されるための対策を構築しています」と述べています。
サイバーセキュリティ業界では、人気のあるAIモデルに対する攻撃が定期的に実証されています。最近では、新しいChatGPTのカレンダー連携機能が悪用され、ユーザーのメールが盗まれる可能性があることが研究者によって示されました。
広告。スクロールして読み続けてください。
翻訳元: https://www.securityweek.com/irregular-raises-80-million-for-ai-security-testing-lab/