IndustryMulti-source
OpenAI 修补新发现的蒸馏攻击方法
Why we picked it
有人发现能从 OpenAI 模型身上蒸馏出新方法,OpenAI 已经堵上了,搞模型安全的可以看看细节。
一种新的蒸馏攻击方法被发现,攻击者可借此尝试从 OpenAI 模型中提取模型能力。OpenAI 已针对该方法完成修补。该消息由 Andrew Curran 在 X 上披露,目前攻击的具体技术细节和影响范围尚未公开。
Original · Andrew Curran
A new distillation attack method has been discovered, and is now patched by OpenAI. https://t.co/raDHKbM1YG