精选理由
想知道怎么从推理模型里偷思维链?这篇讲透了投机解码的另类用法,安全研究者必看。
本期AINews探讨了通过投机解码技术窃取推理模型思维链的方法。文章指出,投机解码不仅能加速推理,还能被用来提取模型的内部推理过程。这种技术可能对模型安全构成威胁,因为推理轨迹包含敏感信息。文章还讨论了蒸馏与推理轨迹窃取之间的界限。
原文 · Latent Space (swyx)
[AINews] How to steal a Reasoning Trace
Speculative Decoding by any other name would distil as sweet