Chinese contentNgramRL 用 n-gram 投机解码加速 RL 后训练的 rollout 生成
RL 训练里 rollout 生成最耗时，这篇论文把它提速到原来的近 2 倍，还不用额外模型，做训练的可以看看实现思路。
#NgramRL
1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "NgramRL", newest first.
Oct 26
RL 训练里 rollout 生成最耗时，这篇论文把它提速到原来的近 2 倍，还不用额外模型，做训练的可以看看实现思路。