#模型蒸馏

共 44 条 · 7 天 6 条 · 30 天 14 条
信息流里打上「模型蒸馏」标签的资讯、产品与论文,按刊登时间排,新的在上。
10月10日
10月7日
10月5日
10月4日
10月2日
10月1日
9月29日
9月22日
9月16日
一种改进的模型蒸馏方法,通过时间信用分配提升大语言模型性能

这篇论文提出了一种新的模型蒸馏方法γOPD,它通过引入折扣时间信用分配来平衡长时程监督和优化稳定性。实验表明,该方法在数学和代码推理任务上,比现有方法有更稳定的提升效果。

arXiv cs.LG@Shiqi Liu 等 12 人原文
9月10日
8月11日
8月10日
8月6日
7月31日
7月28日
7月25日
7月24日
7月23日
7月19日
7月15日
7月14日
7月13日
7月8日
7月3日
7月1日
6月30日
6月25日
6月23日