这篇论文做了个叫 FlowMaker 的系统,能自动帮你选 LLM 工作流的模型和部署方案,实测 goodput 提到 10 倍还省钱,做推理服务的可以看看。
Latest
OpenAI 的 ChatGPT-6 Astra 找到组合数学里偏序集维度的完整证明,还带上下界,数学圈该看看。
想在持续学习里用神经塌缩那套几何的可以看看:作者证明 ETF 目标加分析式更新其实没用,但对权重做 Equinorm 后处理在长尾场景提升明显,100:1 不平衡下尾部类准确率直接涨 32 个点。
The practical value lies in the unification: one statistical principle explains Adam, Shampoo and Muon, so practitioners can tune or combine these optimizers with a clearer theoretical map instead of treating them as folklore. Engineers training GPT-scale models get concrete alternatives, since MND beats Distributed Shampoo and KL-Shampoo on stability and runtime, and MND-Muon wins 21 of 24 paired runs against Muon. Researchers in optimizer design can extend the covariance-approximation framework to new preconditioners.
有人把 RTRBM 搬来编码生物力学数据,接进了 SIT-FUSE 管线,结论挺诚实:嵌入赢了 PCA 和自编码器,但干不过简单统计量。
arXiv上新出的时序预测论文,用参数共享算子分块滚动预测,0.46M参数就赢了24组里的23组,不过上下文比基线长,要仔细看对比设置。
这篇论文用数据戳破一个常见假设:小模型“多语言省内存”的说法对印度语系根本不成立。卡纳达语用户只有英文用户 6% 的上下文,数字很扎心,做本地化的开发者应该看看。
如果你用保形预测做过分组校准,这篇指出了 Mondrian 方法在细分层里覆盖率的坑,Tilted Mondrian 不用重训模型就能缓解,值得看方法部分。
LLaDA 这类扩散语言模型自带的采样规则会让文本更偏向男性职业,这篇论文讲清了原因,还给了个一次前向传播就能修的采样方法。
写代码用 LLM 重构的朋友看看:1500 次实验里 93.8% 的重构在仓库层面有高风险,单提示和多智能体还没差别。
18 个模型里一句真话就能让智能体改错答案,开源模型中招率 80%,做 Agent 安全的必看这篇。
把 Agent 反复遇到的决策当成 MDP 求解一次然后复用,Qwen3.8-27B 在 τ²-bench 上从 29% 冲到 96%,成本降 98%,思路挺新的。
arXiv 上的新论文 PatternBench,专测 LLM 能否做出编译器做不到的代码优化,还用 AST 验证模型是不是真做了优化,做代码生成方向的研究者可以看看。
本地编码 agent 想请教云端强模型,又怕把私有代码发出去,这篇 arXiv 论文给的 UVA 训练法把泄露降了 3.7 倍,修复率还从 25.3% 提到 37.6%。
一篇研究怎么攻击 LLM Agent 的论文,把梯度方法和无梯度方法按顺序组合起来,比单用一种效果好,做安全评测的可以看看。
这篇论文教你把 LoRA 训练塞进手机 NPU,私人数据不出设备就能微调 Qwen 和 Llama 模型,还支持断点续训和散热节流,后台跑也没问题。
一群各自只看自己奖励的智能体,怎么学会不互相坑?这篇论文给了个 Q 函数增强的解法,在四个经典博弈环境里跑赢了共享奖励的做法。
有 1400 道工业装配题的 text-to-CAD 新基准,专门考部件、接口和尺寸是否做对,比普通 CAD 数据集严得多。
这篇论文做了个多模型调度系统,按任务自动选模型还能省钱,成本比单用最强模型低七成多,做路由和推理优化的可以看看。
这篇论文把 LLM 塞进优化器里当决策规划器,替代人工设计的启发式规则,用 DeepSeek 做的版本在 5 种场景里都进前二,思路挺有意思。
做 Agent 长任务的朋友看看这篇:把设计意图存图里、用确定性控制器核对交付物,19 个领域、228 个任务的基准测下来,同一模型约束满足率高出基线 14-25%。
Skills 之间怎么传递输出一直靠模型自己猜,这篇把依赖关系做成 DAG 直接可执行,做 Agent 编排的可以看看实现思路。
这篇论文做医学影像分类时不只给分数,还能输出可独立复算的空间证据链,做医学AI可解释性的朋友可以看看。
这个新基准挺有意思,142 个 episode 测试智能体怎么把人说的话和看到的东西绑定起来,实验发现对话对问答有用、对导航基本没用,问题出在物体级关联上。
论文发现现行的 VLM 剪枝评测方式有漏洞,模型可能靠文本捷径蒙混过关。作者做了个 PAA-Bench 框架和 PCS 指标,8 种方法实测后发现压缩更多 token 未必更快,想给剪枝方法做评测的可以看看。
arXiv 上的新论文,像素扩散模型不再二选一,MFlow 让模型自己学该用哪种预测方式,ConvRefiner 还能低成本补上高频细节,做生成方向的可以看看。
研究者做的实验挺有意思:让 AI 智能体去复现 20 篇癌症研究论文,77.4% 的论断能复现出来,还能自动检查结论稳不稳。
这篇论文挺有意思,实验室能自己搭自己:给个科研目标,它连布局、数字孪生和机器人技能都自己搞定,还跑了真实的量子点合成实验。
做可解释性研究的同学可以看看,SAE 跨种子结果不稳定的老问题,这篇用逐样本稀疏编码给出了解法,一致性提升挺明显。
The paper shows the quality-price of aggressive quantization is now measured, not guessed: INT4 weights plus a Hadamard-rotated INT4 cache cost under one perplexity point while roughly tripling decode speed on H100. Engineers serving Llama-3.1-class models on Hopper GPUs can use its fragment-layout dequantization and KV-cache placement techniques to cut latency without falling back to padded prefill. Compared with PyTorch's INT4 kernel, which loses to BF16 at batch 32, this design stays fast up to batch 32.
一篇关于决策模型隐私泄露的论文:测了九个模型,发现置信度分数会泄露不该给的信息,还给了 WCPQ 方法来降泄露。做 API 输出设计的人可以看看。
这个智能体框架专门给药物研发用,会自己从实验轨迹里学新技能,拿 Qwen 跑出来的准确率能提近 19 个百分点,还能和真实湿实验对上。
Only the latest 2000 items are listed; for older ones see the daily archive