OpenAIは、Private Safety Processing(プライベート・セーフティ・プロセッシング)を先行顧客向けにプレビュー提供しています。AIシステムがより高性能になるにつれ、自社データの保護方法についてより高い確実性を求める顧客が増えているためです。このシステムは、関連する複数のやり取りにまたがるパターンを識別する一方で、OpenAIの担当者が元となるコンテンツにアクセスすることは制限します。同社は9月からこの機能の展開を開始し、技術白書を公開する計画です。
「新たに生じるリスクに単独で対処できるAIラボは存在しません。Private Safety Processingはこうした考え方を反映したものであり、業界、地域、企業規模を問わず、さまざまな顧客の意見を取り入れながら形作られています」とOpenAIは記しています。
ゼロデータ保持(ZDR)を利用する対象APIの顧客については、リクエスト処理後にプロンプトやモデルの応答が保持されることはありません。ただし、CSAMの可能性があるとフラグ付けされた画像については例外で、手動レビューおよび報告のために保持される場合があります。OpenAIによれば、企業顧客のデータは、顧客がオプトインしない限り、自社モデルの学習には使用されません。
Content Access Controls(コンテンツアクセス制御、出典:OpenAI)
ZDR構成の場合、コンテンツは顧客が管理するインフラ上に保持されます。OpenAIは、顧客が管理する暗号鍵を用いて同社のインフラ上にコンテンツを保存する別の選択肢も開発を進めています。いずれの構成においても、自動化されたシステムが潜在的な悪用を検知し、プロンプトや応答の内容を明かすことなく、限定的な安全性シグナルを返すことができます。
複数のやり取りにまたがる安全性分析
Private Safety Processingは、ZDRなどの構成で使用されている既存の自動保護機能を土台としています。既存の保護機能は個々のリクエストを評価するのに対し、この新システムは関連する複数の活動を分析し、潜在的な悪用のパターンを検知します。
「ヘルスケア分野では、膨大な量の機微なデータを保護し、その正確性と完全性を確保することが、臨床医や患者からの信頼を得るための根幹となります。OpenAIの製品、エンジニアリング、ポリシー、経営層の各チームと直接協力し、こうした取り組みを形作る機会を得られたことは、比類のないパートナーシップにつながりました。信頼と安全性に関してこれほど密接に協力できることは稀です。彼らはこちらの声に耳を傾け、実際に行動に移してくれるので、OpenAIに対する信頼につながっています。信頼と安全性についてこれほどのパートナーシップが得られることは、決して当たり前ではありません」と、Abridge社のCISOであるZach Powers氏は述べています。
このシステムは、顧客が管理するインフラ上に保存されたデータ、またはOpenAIが計画している暗号化ストレージオプションを通じたデータを分析できます。潜在的なリスクを検知すると、OpenAIは関与している活動の種類を示す、あらかじめ定義されたシグナルを受け取ります。この情報は、対応措置の判断材料として活用されます。
顧客は自社システムで得られる情報を用いてアラートを調査できるほか、判断への異議申し立てや正当な活動であることの説明、検証済みの悪用に関する調査への協力のために、関連する詳細情報をOpenAIと共有することも可能です。
翻訳元: https://www.helpnetsecurity.com/2026/08/20/openai-private-safety-processing-zdr/
