Latest

这篇论文给世界模型出了道物理题：看着像懂物理，其实连摩擦力都没记住。Roz 评测 1734 个场景一次跑完，做世界模型的同学可以拿来自测。

智能家居命令不想走云端？这篇论文把控制拆成房间、设备、操作三层选择，全程本地跑，还带多轮记忆，准确率数据挺扎实。

研究 SAE 可解释性的朋友可以看看，论文指出传统归因图在特征靠近激活阈值时预测会失效，边际图方法误差能从 0.247 降到 0.033。

研究者在 200B tokens 规模上复检了正交约束的各种玩法，结论是真正起作用的只是球面优化，还顺手拆穿了 5 个先前方法的增益来源。

训练时优化器状态比权重还占显存，这篇论文给出一种带数学保证的压缩法，能把 payload 压到 FP32 的三成左右，恢复更新也不跑偏。

研究投机解码的可以看看：把草稿模型训练目标换成 TVP，接受长度比 CE 高 9.8%，比 DFlash2 配方高最多 12.9%。

做 RLVR 训练的朋友可以看看：目标集提示不能外传时，用少量聚合反馈就能重加权 GRPO 的采样分布，数学基准上验证有效。

理论向的硬核论文：讲清楚了为什么注意力认证这么难，还给出可计算的界，GPT-2 上验证有效。

一篇概念论文，设想把失败和被忽略的实验变成跨领域触发器，用分布式实验室网络串起发现链条，思路挺新鲜。

模型上线后想及时发现风险升高，但标注很贵。这篇论文算出了理论极限，还展示利用输入数据免费触发能省 1/b 轮延迟。

一家研究团队在 TabICLv2 基础上做了个表格基础模型 TabAbax，回归任务在 TabArena 上比原版高了 300 多 Elo，还用消融实验证明合成先验才是关键。

这篇论文测了智能体在 10 个专家验证的抗体亲和力任务上到底靠不靠谱，还对比了工具和历史记录两种增强的取舍。

超长上下文跑不动？这篇论文用分层聚类做稀疏注意力，10M token 下比全注意力快 72 倍还不掉点，做长上下文的值得看看。

新论文 ID-WM 用高低两层世界模型拆解长时程规划，比 diffusion 规划器提升 38.5%，做具身智能的可以看看。

一篇机器人方向的论文：不微调模型，让编码模型自己改控制代码，成功率翻了四五倍，还能攒经验，思路挺有意思。

arXiv 上这篇论文讲了一个省算力的新招：同一模型家族里小模型算过的上下文，能直接转成大模型能用的 KV 缓存，省 75% 缓存还能提速最多 21 倍。

Zyphra 的论文提出 ZHA，几步蒸馏就能把现有模型改成亚二次注意力，1M 上下文以上比现有稀疏注意力方法快很多，做长上下文的值得看。

一篇机器人论文，给预训练世界模型加个稀疏路由，让动作只由相关因素决定，合成和真机实验都验证了。

arXiv 上的 KLM 规范，让 AI 回答能带着证据记录供人审查，还把失败实验也写出来了，这种坦诚不多见。

一篇训练方法的论文：打乱推理步骤顺序来算因果奖励，Gemma-3-4B 在没见过的数据集上准确率从 43.8% 提到 46.8%，忠实度也翻倍。

研究者拿六款大模型测戒烟建议，发现换个提问人设答案就变，青少年拿到的处方药信息少很多，还公开了全部数据。

LLM 帮你找公式时，多个候选方程吵起来反而是信号——这篇论文教你用分歧位置决定哪里该不信任预测。

研究者做了个贸易谈判模拟基准，LLM 光会签协议没用，得看结算后是否真创造价值，TACTIC 智能体靠复盘越谈越好。

arXiv 上一个自动元分析系统，已经汇总了 420 篇人机协作论文，结论挺反直觉：人机搭配打得过人类单干，却打不过 AI 单干。

训练前改一下初始化，GDN、Mamba-2、RWKV-7 这些线性注意力模型的长文检索就提 5 到 17 个点，方法还挺省事。

这篇论文给测试时搜索泼了盆冷水：在 Cosmos Policy 上，价值选择器居然比随机还差，剪枝后端到端也只快 1.15 倍，还揪出个渲染 bug，做机器人策略的都该看看。

一种新的 LLM 剪枝方法 ETAPS，90% 稀疏度下单卡 H200 就能剪 LLaMA2-7B，效果和成本都比 ELSA 好。

做视频理解或评测的值得看这个新基准：现有榜单上高分模型换个测法就露馅，历史证据基本没用上。

有人在优化建模任务上给 LLM 智能体换了个更聪明的技能检索方式，Pass@1 提到 65%，比 OptSkills 高了快 3 个点，做运筹方向可以看看。

给 ReAct 加了个目标栈和回溯机制，不用训练，AppWorld 成功率最高多 22 个百分点，GPT-4o、DeepSeek-V3.2 都测过。

一篇解决图像生成不会"思考"的论文，LARC 把推理搬进连续隐空间，GenEval 上比 BAGEL 高 7 个点，还能测试时扩展。

训练用 DP-SGD 时批次大小一泄露隐私就崩？这篇 arXiv 论文用随机 dummy points 解决截断和泄露问题，还比 2025 年 Ganesh 的直接核算更省。

这篇论文发现蒸馏时 critic 太小会把大教师带崩，提出的 STAC 按步条件化，在 SDXL、FLUX.2 和 Wan2.1 上都能提升少步生成质量，做蒸馏的值得看看。

数学味很浓的论文，把四类序贯问题（bandit、best-arm、MDP 等）的下界推导串成一条链，还拿 7 个真实数据集验证了差距到底出在哪一步。

用 MIMIC 和 eICU 超 7 万患者数据拆解了 ICU 死亡率模型里哪类特征能跨医院复用，做医疗 AI 的值得看看

一篇理论论文，用最简单的两神经元 ReLU 模型解释了梯度下降为什么会先合并再分化，做神经网络理论研究的可以看看证明思路。

隐私审计的运行时间从 α^-2 压到 α^-1·log(1/α)，做 DP-SGD 训练的人能拿到更紧的隐私界，速度还快几个数量级。

欧洲几家气象机构训练了个模型，光靠卫星数据就能自动画出冷锋暖锋，准确度已经接近人工分析的水平。