训练长程 Agent 时只有最终结果奖励不够用,这篇用模型自己的注意力给中间步骤发奖励,ALFWorld 成功率从 91.2% 拉到 97.1%,代码开源可复现。
Latest
做 3D 头像的朋友可以看看,高斯 splatting 重建出的脸容易糊和拉伸,这篇用一步扩散模型修图,还不用逐帧跑,代码已开源。
NTT 的团队做了个有意思的研究:光看物体碰撞时的表面形变,就能推断里面有没有空腔、在哪。对做机器人和无损检测的人很实用。
删数据不用重新训练模型,这论文给出了不用保留原始数据的增量遗忘方案,transformer 上删 20 类还很稳。
标注数据太贵?这篇论文教你用 TANN 和 EPIC 挑最有价值的行,标注 5-10% 就能达到八成性能,还顺手提升 GBDT。
实验设计挺巧的:给 GPT-6 一个只能算数不能读权重的工具,审计临床模型的效果和白盒一样好,对做模型审计的人很有参考价值。
The physics framing turns schedule design for masked diffusion decoding into a geometry problem, giving practitioners a principled way to choose unmasking steps instead of heuristics. Builders working on parallel decoding, such as teams tuning LLaDA- or Mercury-style diffusion LMs, can use the closed-form metric to cut error at a fixed step budget. The finding that errors concentrate early for long-correlation text directly informs how to allocate compute across generation steps.
一篇把智能体思路用在视觉任务上的论文,给 MLLM 加了放大和高亮两个工具,在 PSG 基准上拿了第一,做视觉推理的可以看看。
arXiv上一套知识图谱修复方案,用一个router决定LLM代理什么时候去外部检索证据,六套测试里token更省、修复F1还更高,做图谱的可以看看
用推荐系统思路预测台风会打乱哪些港口、影响几天,Wide & Deep 模型比距离基线高出 55%-85%,做物流和防灾的可以看看方法。
这篇论文用 Claude Code 实测了语法树、调用图等五种代码地图,发现主要价值在省 token,定位类任务最多省 39%,写补丁类就没啥优势了。
想在 Pythia-70M 里定位出控制 are/is 输出的具体特征,删掉就变单数,Gemma-2-2b 和 Llama-3.1-8b 上也复现了。
机器人扩散策略想用 RL 微调但算不动?这篇 LARBRID 只优化初始噪声分布,速度提上去了,成绩还能涨 2-3 倍,代码开源可以跑。
arXiv 上一篇理论论文,把满足化学习规则改写成贝叶斯估计器 ACB,还证明不可达目标下探索不会收敛,喜欢决策理论建模的可以看看推导。
用 30 年病史训练 EHR 模型预测结直肠癌,发现回看 18 年效果最好,还顺带指出了 RoPE 处理长时间的问题。
一篇改进 kNN 的小论文:不再全局定一个 k,而是用遗传算法学出按每个样本自适应选 k 的策略,还附了 12 个数据集的实验和泛化证明。
一篇很实在的推理优化论文:把注意力分块按精度分档,长文本生成最高快 7.88 倍,代码已开源,做长上下文部署的可以试试。
这篇论文把两种衡量 AI 削弱人类权力的度量用不等式串了起来,还给出能从交互日志直接算的监控指标,做 AI 安全的方向可以看看。
做嵌入可视化的人可以看看,它不用标签,靠知识图谱三元组重构邻域图,8 个条件上 NMI 和 LT_2D 都赢了 kNN 基线。
一篇离线强化学习新论文,MAC-v2 用潜在世界模型加动作分块,在 LIBERO-10 这些视觉基准上跑赢了 model-free 和 model-based 基线,做 RL 的可以看看。
微软研究员在 Science 上写了篇文章,把神经网络当成改造社会制度的模板,还起了个新词叫反向对齐,思路挺新颖。
太阳能发电预测只能给单个数值不够用,这篇论文用两个LSTM分开预测辐照度和误差,不确定度偏差最多降56.5%,做新能源预测的可以看看。
一篇把 DINO 自监督搬到惯性传感数据的论文,一个模型同时搞定 HAR、动作捕捉、里程计这些任务,还能换采样率和佩戴位置,做可穿戴或机器人方向的可以看看。
几何深度学习论文把等变GNN的秩限制反着用,用奇异值谱给分子、蛋白复合物做点群识别,还能追踪对称性破缺,做结构分析的朋友可以看看。
PINN 找解,区间算术给严格误差界,Lean 再机器检查一遍,还顺手发现了新的高振幅 Wilton ripple 候选解,方法链路很完整。
一篇 RAG 新玩法论文:把文档离线灌成 KV 缓存,0.6B 小模型查询时直接吃缓存,30 组对比赢了 29 组,省算力场景挺实用。
一篇挺有意思的论文:有人能在不动准确率的情况下悄悄把模型预测掰向自己要的方向,连审计都能过,监管和用模型打官司的人该看看。
做偏好优化训练的可以看看:给 DPO 打了个闭式诊断指标,能提前判断冲突数据会不会让安全分、长度这些约束越训越差。
一篇图学习论文,提出 AtlasULP 框架,在没见过的图上不用重新训练就能做链接预测,生物网络这类长程依赖场景提升明显,做图方向的朋友可以看看。
做推理部署的可以看看:没有验证器也能做测试时扩展,在 LiveCodeBench 上无验证器时 mean@8 提升 35%,方法细节都在论文里。
数值方法论文,用张量网络 CP 分解把高维动理学方程的成本从指数压到多项式,3D3V 例子单 GPU 半小时训完,做等离子体或半导体仿真模拟的可以看看。
用超声波听声音就能提前发现钻头要卡死,Autoencoder 在 17 个钻头上一个故障都没漏,做工业预测维护的可以看看这份公开数据集。
GEAR 这个新微调方法把 LoRA 动态秩问题做成了几何问题,参数只用三分之一,分数还涨了近 2 分,搞微调的可以看看。
Anthropic 的模型只用一根 USB 线,就把锁屏的 Pixel 9 数据掏了出来,还是串了 3 个漏洞,安全圈值得看看细节。
Only the latest 2000 items are listed; for older ones see the daily archive