论文73°
模型蒸馏与并行研究的关系
精选理由
探讨模型蒸馏如何影响研究路径和数据管道工程，以及离策略样本对强化学习的潜在影响。
研究人员表示可以同时进行大部分突破性研究与模型蒸馏。模型蒸馏减少了在"枯燥"数据管道工程方面的投资和专业技能需求。研究还指出，依赖不断变化的离策略样本可能会强化学习收益。
原文 · Teortaxes
Disagreed. You can do most *groundbreaking research* in parallel with distillation. What distillation does reduce is the investment and competence in "boring" data pipeline engineering. Also, you are reliant on ever-changing off-policy samples, which could undermine your RL gains.
