#test-time training

7 stories · 0 in 7 days · 1 in 30 days

Stories, products and papers tagged "test-time training", newest first.

Oct 15

清华 THUNLP 开源了个 KV cache 压缩方法，压到 1/32 还能在 RULER 上保持 96.7% 准确率，比 KVZip+ 的 40% 高出一大截，长文档检索场景可以直接试。

arXiv cs.LG@Yingfa Chen et al. (4)Source

Sep 29

一篇讲个性化奖励建模的论文，指出了 ICL 方法学不到偏好关系的坑，提出的 P-TTT 一次前向就能更新用户权重，做 RLHF 的可以看看。

arXiv cs.AI@Bohao Wang et al. (7)Source

Sep 7

Papers BuildersSelected73°11:36

The framework enables scalable product recommendations at minimal cost, making it practical for e-commerce platforms with millions of product pairs.

arXiv cs.LG@Siliang Liu et al. (4)Source

Aug 24

PapersSelected10:06

E2-TTT matches training throughput of efficient chunk-wise methods while improving length extrapolation performance for long-context tasks.

arXiv cs.LG@Zeyun Zhong et al. (6)Source

Aug 7

这篇论文把持续学习的新玩法梳理清楚了，不再只盯着参数调整，连测试时训练、外部记忆都算进去了。搞AI系统的可以看看。

arXiv cs.LG@Zhiyan Hou et al. (13)Source

Jul 17

ModelsMulti-sourceSelected73°11:32

NVIDIA发布了RoboTTT，能把机器人策略的上下文窗口做到8000步，看懂人类演示后直接模仿，长任务完成率比单步模型高87%。想了解机器人怎么学更长历史可以看这个。

arXiv cs.AI@Yunfan Jiang et al. (11)Source

Jul 16

ModelsMulti-sourceSelected05:46

斯坦福和英伟达搞了个新方法RoboTTT，能让机器人记住5分钟内的动作历史，一次看人演示就能模仿，还能自己纠错。上下文越长效果越好，8K比1K强62%。

Official accountFei-Fei Li@drfeifeiSource