用世界模型当奖励模型训练 AI 自己改进模型,Qwen3.8-27B 训完居然超过 GPT-6-sol,成本还降了 33%。
Latest
做智能体工具调用的朋友看这篇,工具接口一改模型就崩,SchemaShield-Lite 不用重训就能在 BFCL-200 上把准确率从 0.58 拉到 0.805。
一篇 arXiv 论文,讲怎么把企业里散落的数据库和文档整理成本体,让 LLM 智能体做数据分析更靠谱,还能吸收反馈,有真实落地案例。
解决智能体长期记忆检索结果零散难用的老问题,把散落的记忆片段编译成能直接作答的上下文,LoCoMo 跑出 80.52%,做 Agent 记忆的可以看看。
arXiv 上一篇新论文,提出 SRCoT 闭环架构,让本地跑的小模型输出每句话都能溯源到证据,代码思路值得借鉴。
手机上的 AI 智能体会被藏在其他 App 里的恶意内容带偏,这篇论文用 108 个实例测了一圈,还给了诊断框架,做移动智能体的可以看看怎么防。
一种新的蒸馏方法,不看 token 概率也不硬对齐隐藏状态,靠响应相似度传递教师知识,跨架构蒸馏也能涨点,做模型压缩的可以看看。
研究者在真实企业里测试了 LLM 数据助手怎么应对用户写得乱的提示词,用知识图谱做中介比单纯靠 schema 效果好,做企业数据工具的可以参考。
一篇很实用的图像编辑论文:跑一次扩散模型,之后改焦点只要半秒,比 GenRefocus 快 462 倍,还附带了自建的 3 相机测试集。
扩散多模态模型用缓存提速后老复读,这篇论文找到三个根因,给了个免训练插件,重复率从 99.6% 压到 17%。
做 Agent 调试的人可以看看,这个工具能读 LangSmith、Langfuse 等六种格式,自动和人工一起做步骤级标注,复现了 235 个标注单元。
这篇论文把偏好理解从打分器搬进了生成模型内部,Generator 和 Critic 两个智能体互相博弈,三个模型规模都验证有效。
这篇论文针对 GRPO 对同奖励响应一视同仁的问题,用生成熵给对错响应加不同权重的修正项,Qwen2.5-7B 上 avg@32 从 41.5% 提到 45.4%。
一篇挺有意思的论文:发现同一个模型反复算也不算独立证据,提出 DIA 用几个不同模型盲投仲裁,MuSiQue 上涨 7 个点,token 还省一半。
一篇降低向量内积计算和传输成本的方法论文,用排序加Haar小波截断保留少量系数对,还在APPA-REAL年龄估计任务上做了验证。
一篇 arXiv 理论论文,证明了 ridge 回归迁移学习何时能达到极小最优 scaling law,还顺手证明单遍 SGD 就够用。
火星相机的探测器坏了,团队用 U-Net 从其他通道把丢的波段补回来,误差 1.1% 比老方法 3.1% 好不少,还开源了。
这篇 arXiv 论文发现 PyTorch Inductor 优化内存排序经常失效,作者给出能逐位复现、可证明最优的调度方法,DeepLabV3 直接省 10% 内存,做边缘部署的值得看看。
survival analysis 该怎么选 loss 还是 backbone?这篇用 23 个数据集拆开测:损失函数影响更大,表格配 RealMLP、图像配视觉编码器,组合直接拿最佳 Brier 分数。
只训练1120万参数就在RoboSpatial-Home上比单步模型高了9个点,总参数只有RoboPoint的十五分之一,做机器人空间理解的可以看看思路。
arXiv 上这篇论文把 F-score、kappa 这些评测指标统一成一个可调参数的分数族,还给了求最优折中的解析解,做模型评估的可以看看。
这篇论文教你在数据很少时怎么给分类器做预训练:DiffPT 用扩散模型,医学影像和时间序列上比自监督方法更扛用。
arXiv 上这篇 DeDiCa 论文挺有意思,训练一次就能在毫秒内回答因果干预问题,还能在 CPU 上跑,比因果基础模型省时省内存。
一篇 VLA 机器人论文,思路是超网络按任务生成参数而不做参数合并,三个基准上最强基线平均高出 41 个百分点,代码也开源了。
一篇讲 Agent 记忆筛选的论文,JointCore 这个基线能把要评估的记忆子集次数砍掉六成多,省 87.8% 的活跃记忆,做 Agent 的可以看看思路。
一篇新论文:ADT 用扩散模型来给 3D 分子结构做 token 化,小分子按原子、蛋白按残基编码,重建时还能补回侧链细节,做分子生成方向的朋友可以看看。
这篇论文发现把约束写进模型自己的思维链里比写在提示里管用得多,做提示词工程或关注 CoT 监控安全的都该看看,尤其是最后那个规避监控的实验。
测试时多采样加验证器很常用,但预算怎么分全靠拍脑袋。这篇论文给出 SPLIT,用小试点数据算出接近最优的分配方案,还公开了 26 个模型上的实测结果。
把大模型智能体放进电网故障恢复的场景里测,5 个模型跑了 7 万多回合,尾部失败率很扎眼,做电力 AI 的朋友可以看看这套基准。
这篇论文解释了为什么 GRPO 做安全对齐会失效,还给出了 Beacon 框架,在 Qwen3 和 DeepSeek-R1-Distill 上把安全错误最多降了 32.83 个百分点。
这个 3DCodeVerse 让 AI 写代码直接生成 3D 场景,还能自动检查修错,人类评测里 90% 胜过 Claude Design,做 3D 生成的可以看看。
把鲁棒强化学习用在前列腺癌自适应治疗上,患者当隐藏上下文建模,模拟器里比现有方法更稳还不掉性能,做医疗AI的可以看看。
这篇 T2-Z 挺有意思,给机器人世界模型加了个环境隐变量,测试时优化一下就能适应新环境,动作成功率从 34% 拉到 73%,做机器人方向的朋友可以看看。
Only the latest 2000 items are listed; for older ones see the daily archive