タグ: 利用規約違反

gbhackers.com

OpenAI、保護されたモデルの推論過程を抜き出そうとする1万5000件超のアカウントを遮断

OpenAIは、同社AIモデルの保護された内部推論を大規模に抽出しようとする組織的なキャンペーンを阻止しました。同社は、1万5000件を超えるユーザーアカウントに関連する活動に対処しました。 OpenAIはこの攻撃を、敵対的なモデル蒸留の試みと位置づけています。攻撃者は、別のAIシステムの再現、訓練、強化に役立つモデ

cyberpress.org

OpenAI、保護対象のモデル推論の抽出を狙う1万5,000ユーザー規模の工作を阻止

OpenAIは、同社のAIモデルが持つ保護対象の推論(リーズニング)を抽出しようとしたとされる、1万5,000件を超えるユーザーアカウントによる組織的なキャンペーンを阻止しました。同社はこの活動を敵対的モデル蒸留と説明しています。 この工作は7月上旬に始まり、同月後半には大量の抽出試行へとエスカレートしました。これを