#加速推理
共 3 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「加速推理」标签的资讯、产品与论文,按刊登时间排,新的在上。
8月25日
8月14日
6月26日
Next-Latent Prediction:让Transformer学会预测隐状态,推理加速3.3倍
Transformer预测隐状态而不是token能加速3.3倍,还能形成世界模型。Jayden Teoh的新框架值得看看。
Transformer预测隐状态而不是token能加速3.3倍,还能形成世界模型。Jayden Teoh的新框架值得看看。