#TIDE
共 3 条 · 7 天 0 条 · 30 天 1 条
信息流里打上「TIDE」标签的资讯、产品与论文,按刊登时间排,新的在上。
9月29日
8月11日
TIDE:解决LLM在线蒸馏中师生不匹配问题
这篇论文讲了个反直觉的事:蒸馏时师生token一致反而可能有害。TIDE方法在数学推理上把准确率从6.9%拉到20.3%,还让回答短了3.6倍,值得做LLM后训练的人看看。
5月19日
这篇论文讲了个反直觉的事:蒸馏时师生token一致反而可能有害。TIDE方法在数学推理上把准确率从6.9%拉到20.3%,还让回答短了3.6倍,值得做LLM后训练的人看看。