OpenAIは、エンタープライズ重視のAIエコシステムを取り巻くセキュリティフレームワークを強化する取り組みを加速させています。
最近、AI大手は、エージェントセキュリティテスト企業Promptfooの買収を通じて、エージェントAIセキュリティテストの必要性に対応しようとしています。
まもなく公開されるInfosecurityとのインタビューで、OpenClawのセキュリティアドバイザーは、エージェントAI開発内にそのようなセキュリティ要件が存在することを指摘しました。
オーストラリア人ハッカーで、ペネトレーションテスト企業DVULNの創設者であり、2026年初頭にバイラルしたローカルAIエージェントプロジェクトOpenClawのセキュリティアドバイザーであるJamieson O’Reillyは、今後のポッドキャストエピソードのためにInfosecurityに語りました。
エージェントAIセキュリティの将来について尋ねられたO’Reillyは、AIおよびサイバーセキュリティコミュニティが、従来のファイルベースのマルウェア分析ではなく、「ヒューマンランゲージマルウェア」を検出するために「AIツールをスキャン」する方法をより多く開発する必要があると警告しました。
3月9日に行われたインタビューの1日後、OpenAIはエンタープライズアプリケーションにおけるAIエージェントのセキュリティ対策を強化するため、Promptfooを買収すると発表しました。
DiscordのシニアエンジニアリングマネージャーであるIan Websterと、Smile IdentityのエンジニアリングVPおよび機械学習責任者であるMichael D’Angeloによって2024年7月に設立されたPromptfooは、O’Reillyが指摘したセキュリティギャップに対処しています。
具体的には、スタートアップは大規模言語モデル（LLM）とAIエージェントをテストおよび評価するためのオープンソースツールを提供しています。これらには、LLMの脆弱性をスキャンするツール、AIツールのレッドティーミング、AIプロンプトとモデルの評価、およびAIエージェントの構成要素の1つであるモデルコンテキストプロトコル（MCP）サーバーの安全なプロキシの提供が含まれます。
OpenAIの3月10日の発表によると、Promptfooのツールスイートはフォーチュン500企業の25%以上で使用されています。
スタートアップはこれまでに2,300万ドルを調達しており、2025年7月のVC企業Insight Partnersからの1,840万ドルにはAndreessen Horowitz の参加が含まれています。LinkedInページによると、Promptfooは20人以上を雇用しています。
買収に関する財務詳細は、どちらの当事者からも共有されていません。
OpenAI、AIエージェントセキュリティテスト強化のためPromptfooを買収
OpenAIは、企業がAIエージェント（同社が「AIコワーカー」と呼ぶもの）をますます導入しており、Promptfooが「AIエージェントの動作をテストし、デプロイ前にリスクを検出し、監視、ガバナンス、説明責任をサポートするための明確な記録を時間をかけて維持する」ための「体系的な方法を提供するのに役立つ」と述べました。
買収が承認されると、OpenAIはPromptfooのテクノロジーを、「AIコワーカー」を構築および運用するためのプラットフォームであるOpenAI Frontierに直接統合します。
同社は、セキュリティとセーフティテストがFrontierプラットフォームの組み込み機能となり、プロンプトインジェクション、ジェイルブレーク、データリーク、ツールの不正使用、ポリシー外のエージェント動作などのリスクを識別および軽減するのに役立つ自動セキュリティテストおよびレッドティーミングツールを備えると述べました。
OpenAIはまた、セキュリティと評価が開発ワークフローに統合され、組織が開発プロセスの早い段階でエージェントリスクを識別、調査、軽減できるようになると述べました。
さらに、統合レポートおよび追跡可能性機能により、監視とアカウンタビリティが提供され、組織はテストをドキュメント化し、時間をかけて変更を監視し、AIに関する新たなガバナンス、リスク、コンプライアンスの期待を満たすことができます。
最後に、ジェネレーティブAI大手は、Promptfooの現在の製品スイートをオープンソースに保ち、誰もが使用およびデプロイできるようにすることを確認しました。
OpenAIのセキュリティの未来はOpenClawとPromptfooを含む
買収についてInfosecurityに語ったO’Reillyは、それが「非常に合理的だった」と述べました。しかし、彼はPromptfooと買収についてさらにコメントするのに十分な背景情報がないと付け加えました。
OpenClawのセキュリティアドバイザーに任命されて以来、O’Reillyはプロジェクトのセキュリティロードマップに取り組んでいます。彼はまた、2月7日に、ClawHubなどのスキルライブラリで共有されているOpenClaw互換スキルのセキュリティを向上させるため、Googleが所有するVirusTotalとの契約に署名しました。
「VirusTotalはより従来のバイナリベースのマルウェア分析で知られていますが、スキルマーケットプレイスの悪用を真摯に研究していたのは、私たちを除いて彼らだけでした」とO’ReillyはInfosecurityに語りました。
彼はまた、「ヒューマンランゲージマルウェア」をスキャンするためのGoogle AI Geminiへの特権アクセスのVirusTotalのメリットを強調しました。
VirusTotalとのOpenClaw契約から数日後、OpenClawの創設者であるPeter Steinbergerは2月14日にOpenAIに参加したことを発表しました。
オーストリアのソフトウェア開発者がOpenClawプロジェクトをOpenAIに持ち込んでいるかどうかは不明ですが、彼は複数のメディアアウトレットに対して、OpenClawが財団に移行し、オープンで独立したままになることを確認しました。
2月12日にLex Fridmanポッドキャストで語ったSteinbergerは、OpenClawがGoogleのChromiumとChromeに似たモデルに従うことを望んでいると述べました。ここでは、オープンソースプロジェクト（Chromium）が企業と外部の貢献者によって維持され、Google Chrome、Microsoft Edge、Brave、Opera、Vivaldiなどの商用製品の基礎として機能します。
何が起こっても、Steinbergerの雇用とPromptfoo統合、ならびに最近展開されたCodex Security（以前はAardvarkとして知られており、開発者がAI生成コード内の脆弱性を特定および軽減するのに役立つように設計されたツール）により、OpenAIはエンタープライズAIエコシステムの周辺のセキュリティインフラストラクチャを構築するためにより積極的に動いているようです。
翻訳元: https://www.infosecurity-magazine.com/news/openai-promptfoo-deal-agentic-ai/
