MoE 模型跑在边缘设备上会被专家权重搬运拖慢,这篇论文提出 CRISP,在 Mixtral-8x7B 上把吞吐拉到 2.1 倍,精度只掉 3.6%,做端侧部署的可以看看。
Papers
prompt injection 一直没好办法防,这篇用注意力门控把攻击成功率从 97% 压到 10%,还不太掉性能,做安全或 agent 的值得看。
伯克利团队用纯仿真训练 LEAP 手做任意姿态抓取,4800 个目标 95% 成功,安全过滤器还能减少 75% 掉落,方案全开源。
The non-obvious finding is that data composition, not raw task count, drives tool-use agent performance, giving teams a concrete recipe for allocating synthetic data budgets. Builders training or fine-tuning agents can apply SynthAPI's control axes to prioritize tool and database diversity over volume. Compared with prior synthetic environment generation work, this approach offers a quantitative scaling law rather than ad-hoc data curation.
训练 agent RL 太烧 rollout 预算的可以看这篇,EnvSched 在 Qwen3-8B 上 40 步就跑赢随机选任务 120 步的效果,省了三倍训练量。
不训练就能看球赛自动挑事件,靠解说文本加分镜省72%推理成本,还超过专门训练的SoccerNet模型,做视频集锦的可以看看。
作者把复数特征值随时间的缠绕路径变成一条拓扑辫子,再用 Burau 表示转成特征向量,四分类做到 97.1%,比不追踪特征值的基线 44.5% 高出一大截,图机器学习方向值得看看。
把 LLM 用在电商促销分配上,单 token 输出当转化概率用,A/B 测试里转化涨 1% 还省了 6% 促销费,思路挺有意思。
航空业终于有了公开的预测性维护数据集,9.2 亿时间步、9 个真实故障场景,想搞工业时序的同学可以拿来跑 baseline 了。
The paper turns a known failure mode of self-rewarding training into a predictive formula, giving practitioners a way to estimate safe dataset sizes before a run collapses. It also identifies two concrete mitigations, removing the shared coupling direction or adding a marginal-entropy bonus, that were validated on an actual Transformer. Researchers working on verifiable-reward training and anyone training reasoning models without labels will find the scaling laws directly applicable.
Niantic Spatial 做了个多视角扩散模型,把卫星图当额外条件喂进去,生成看不到的街景视角时布局不再乱编,连 3D 重建都不需要。
用图网络替掉自注意力,训练只到 512 长度就能零样本跑 400 万 token,线性内存还不爆显存,思路挺新鲜。
The practical payoff is a theoretical licence to merge DPO-aligned checkpoints: sparser, disentangled updates mean less interference when combining model variants. Researchers working on preference alignment or model merging can use the support-pair bounds to reason about how many samples actually shape a fine-tune. Teams choosing between DPO and SFT for multi-task pipelines get a concrete 35× interference reduction figure to weigh.
用 OpenAI 证明 Haldane 能隙那套方法,把 S=1 海森堡链基态唯一性证出来了,还坦承 ChatGPT 参与写证明,数学和 AI 协作两个角度都挺有意思。
一篇讲视频推理的新论文,思路是让模型在思考时能回看关键画面片段,不用塞进一堆帧,做视频理解方向的可以看看。
改进 Muon 优化器的论文:不硬压权重范数,改成投影掉径向分量,实测比 MuonH 省 15% token,训练 LLM 的可以看看。
新渲染基元 Hexels,六边形设计比 2DGS 省显存还更清晰,DTU 重建误差降了 28.9%,做 3D 重建的可以看看。
机器人圈的新论文:ThinkWorld 把动作推理拆成一串运动 token,让机器人直接从人类视频学操作,不用逐条标注动作。
这篇论文把 AlphaFold 的三角更新和格点 QCD 用同一个 Wilson Loop 框架串起来了,数学上挺漂亮,做关系推理和图模型的值得看看推导。
做大气化学或物理-机器学习混合建模的可以看看,能把 KPP 机制直接转成 JAX 可微分代码,做参数估计不用手推伴随了。
让模型在一个重力规律被改掉的世界里自己发现异常,12 个模型只有 GPT-6-Astra 做到一次,其余全挂,测试设计挺有意思。
一篇挺有意思的论文:测试了 Qwen2.5、Llama-3.1 和 DeepSeek 在群体讨论记忆上的表现,发现相关性筛选会引入干扰信息,去掉归属标签反而准 13-24 分。
一个专门测手机上跑的图像编辑模型的基准,1150 个样本、按操作和目标两个轴拆任务,比单一分数更能告诉你端侧模型差在哪。
交通预测新玩法:不用针对每个路网重新训练,换个新传感器网络直接零样本预测,MSE 比 TimePFN 低三成多。
研究者用新指标 LRC 检验了一圈主流 latent world models,结论挺扎眼:没一个真在学环境动态。做 world model 方向的值得看下。
一个时间序列预测的开源基础模型系列,209M 和 123M 在 GIFT-Eval 等三个基准上拿下前两名,权重直接能下。
这篇论文做了个叫 REGER 的生成式推荐框架,让模型在预训练阶段就学会物品间的语义和协作关系,还配了套前缀树偏好蒸馏的理论,实验比现有 GR 基线都好,做推荐系统的话很值得看看。
一个专门测智能体"团队分工"的新环境,8 个模型一测,信息一分散成功率直接掉 22.9 个点,还教你怎么用 RL 训出协作能力。
研究者做了100个实时小游戏测智能体,GPT-6 Astra实时模式才9%通过率,一暂停就飙到75%,差距很直观。
搞医疗 AI 或可信预测的都该看看:类别不平衡时不确定性分数其实是在报数据稀疏,不是真模糊,论文给了修正方法。
机械臂操作评测只看成功率太粗了,这篇 arXiv 论文提出把动作投影到关节轴上,能看出策略到底是干活还是在瞎使劲。
机器人模仿学习到末端精度总翻车?这篇 ARC 只用几次人工纠正加 RL 微调,成功率从 33% 拉到 75%,思路挺聪明。
研究者把 Simon 1961 年的 Heuristic Compiler 和 1984 年的 KBEmacs 原代码跑了起来,还顺带用 Claude Code 干活,看看早期编程 AI 和现在有什么不一样。
摩洛哥 5 个谷物系统的数据建模发现,农场都堆同一个施肥模型会让误差叠加,多样化组合能降 10%-40% 的社会损失。
一篇提升扩散语言模型推理速度的论文:给 LLaDA 和 Dream 加个小模块,参数只多 0.84%,生成最快快 7.15 倍,做推理加速的可以看看。
一篇把 GP-UCB 搬进生产环境的论文,实测比 ε-greedy 显著更省探索成本,做预算分配优化的工程师可以直接参考核函数选型。
有人担心在线服务偷偷套 LoRA 生成有害图片?这篇论文给了一套黑盒检验方法,不用碰模型内部就能分辨基础模型和适配版本。