OpenAIにはAI生成コンテンツに自動でウォーターマークを付与するツールがあるが、それを一般公開するかどうかについて、同社の経営陣の意見が割れている。
ウォール・ストリート・ジャーナルによると、ChatGPTを手がける同社は2年前、大規模言語モデル（LLM）が生成したコンテンツにラベルを付けられるツールの開発を開始した。
事情に詳しい関係者が米ニュースメディアに語ったところによれば、このツールは、Googleの「SynthID for Text」と同様に、トークンの選択方法をわずかに変更することで機能するという。
こうした変更により、「ウォーターマーク」と呼ばれるパターンが残る。
社内文書によれば、ChatGPTによって十分な新規テキストが生成された場合、OpenAIの社内ツールが作成するウォーターマークは99.9%の有効性を持つ。
このツールは公開できる状態にあるとされるが、プロジェクトは2年にわたり社内での議論により停滞している。
主な懸念の一つは、このツールがChatGPTユーザーを製品から遠ざけてしまう可能性があることだ。
同社が2023年4月に熱心なChatGPTユーザーを対象に実施した調査では、約3分の1がこの技術に否定的になると回答しており、その主な理由は不正行為や盗用を検出できてしまう点だった。
写真提供: Daniel Chetroni/Shutterstock
翻訳元: https://www.infosecurity-magazine.com/news/openai-split-ai-watermarking/
