精选理由
想调大模型temperature但发现被锁死了?看看这个讨论,可能是为了防止蒸馏,有意思。
部分国产大模型API近期限制了temperature参数的调节范围,引发开发者讨论。有观点认为这可能是为了防止模型蒸馏,即通过固定temperature使输出更确定,增加蒸馏难度。但官方尚未明确原因。该限制影响了开发者对模型输出多样性的控制。
原文 · 向阳乔木
为什么很多国产模型API的 temperature 不允许自定义了? 是因为蒸馏的原因吗?
为什么很多国产模型API的 temperature 不允许自定义了? 是因为蒸馏的原因吗? 💬 2 🔄 0 ❤️ 2 👀 1876 📊 2 ⚡