Chinese contentLatent Compaction:用测试时训练压缩 KV cache,32 倍压缩下 RULER 准确率达 96.7%
清华 THUNLP 开源了个 KV cache 压缩方法,压到 1/32 还能在 RULER 上保持 96.7% 准确率,比 KVZip+ 的 40% 高出一大截,长文档检索场景可以直接试。
清华 THUNLP 开源了个 KV cache 压缩方法,压到 1/32 还能在 RULER 上保持 96.7% 准确率,比 KVZip+ 的 40% 高出一大截,长文档检索场景可以直接试。
一篇讲个性化奖励建模的论文,指出了 ICL 方法学不到偏好关系的坑,提出的 P-TTT 一次前向就能更新用户权重,做 RLHF 的可以看看。
The framework enables scalable product recommendations at minimal cost, making it practical for e-commerce platforms with millions of product pairs.
E2-TTT matches training throughput of efficient chunk-wise methods while improving length extrapolation performance for long-context tasks.
这篇论文把持续学习的新玩法梳理清楚了,不再只盯着参数调整,连测试时训练、外部记忆都算进去了。搞AI系统的可以看看。
NVIDIA发布了RoboTTT,能把机器人策略的上下文窗口做到8000步,看懂人类演示后直接模仿,长任务完成率比单步模型高87%。想了解机器人怎么学更长历史可以看这个。
斯坦福和英伟达搞了个新方法RoboTTT,能让机器人记住5分钟内的动作历史,一次看人演示就能模仿,还能自己纠错。上下文越长效果越好,8K比1K强62%。