OpenAIのセキュリティ欠陥、AIモデルの蒸留対策を回避される恐れ
OpenAIのAPIで新たに公開された脆弱性「コンパクション・スマグリング（compaction smuggling）」により、攻撃者が最先端モデルの非公開の推論トレースを抽出できる状態になっていました。これにより、無許可のモデル蒸留を防ぐ保護策が回避されていました。 Xintが10月26日に公開した情報によると、こ
タグ: 推論トレース
研究者ら、AIの非公開の推論トレースが漏えいするOpenAI APIの脆弱性を発見
研究者らは、会話のコンパクション（圧縮）機能を悪用することで、非公開の推論トレースが明らかになるOpenAI APIの脆弱性を公表しました。調査セキュリティ 「Compaction Smuggling（コンパクション・スマグリング）」と名付けられたこの手法は、既存の防御策を回避し、高度なモデルから貴重な学習用データを
AIの推論トレースを盗み出す手口
興味深い研究が発表されました。「Stealing Reasoning Traces from Proprietary LLM APIs」という論文です。 概要: 大手大規模言語モデル（LLM）プロバイダーは現在、知的財産を保護し情報漏えいを防ぐため、モデルの段階的な推論過程、いわゆる思考連鎖(chain-o