精选理由
了解国产模型如何通过扎实预训练和后训练达到高水平，以及蒸馏在数据收集中的作用。
播客共识：国产模型蒸馏加速数据收集，但高水平依赖扎实预训练和后训练；国产显卡和电力资源助力性价比提升；前沿研究国外领先。
原文 · 向阳乔木
听了不少播客，大家的一致看法是国产模型的蒸馏只是加速了高质量数据收集速度。 能达到现在水平，还是靠国产模型扎实的预训练，新的构架和不错的后训练。（得益于国内人才密度） 加上国产显卡大批量用于模型推...
听了不少播客，大家的一致看法是国产模型的蒸馏只是加速了高质量数据收集速度。 能达到现在水平，还是靠国产模型扎实的预训练，新的构架和不错的后训练。（得益于国内人才密度） 加上国产显卡大批量用于模型推理，国内电力资源的充沛，性价比拉上来了。 但前沿顶级探索研究还是国外要更领先。 crazychenxin.eth @crazychenxin @vista8 最后是中国把美国蒸馏死？ 🔗 View Quoted Tweet 💬 0 🔄 0 ❤️ 5 👀 1277 📊 1 ⚡