做意图路由或分类的朋友可以看看:同一模型换个标签写法,准确率能差这么多,论文还给了四个评测坑点。
Latest
The survey's value lies in its proposed evaluation framework and its six-way taxonomy of research orientations, which gives structure to a field that has grown mostly through scattered techniques. Researchers and safety teams can use the released notebooks to reproduce methods hands-on rather than reading only about them. The comparison between mechanistic evidence and behavioural evaluation is a useful lens for anyone deciding whether to invest in interpretability tools over standard safety testing.
一篇偏数学的方法论文:不用推导符号方程,直接从微分方程数据里挖出连续对称性生成元,在 11 维基准上全部恢复,做科学机器学习的人可以看看。
搞微调和 RLHF 的朋友可以看看,论文讲清了 LoRA 在 SFT 和 RL 里动态为啥不一样,还给出了分阶段调法,实验在数学推理上验证有效。
研究不确定性量化的朋友可以看看:这篇证明了保形预测在时变偏微分方程上为什么会失效,还给了加权修正方案。
arXiv 上这篇把 Unitree G1 训练成能和人互相配合的伙伴,还能预判被挡住的同伴动作,260 小时交互数据开源了。
NASA DASHlink 数据上跑的飞机着陆异常检测,LSTM 自编码器加 XGBoost,召回率超过 0.9,做时序稀有事件检测的可以看看。
训练 GNN 的朋友可以看看这篇:把 Muon 改造成图感知的 GraphMuon,在 OGB 基准上比 AdamW 快 1.3 到 2.4 倍,代码已开源。
一个改进 Gated DeltaNet-2 的线性注意力新架构,长文本外推到千万 token 还不掉点,训练还比 Transformer 快 2.7 倍,做长上下文的值得看看实现思路。
The practical lesson is that the teacher choice decides whether OPD is worth the compute: self-distillation from a model's own GRPO checkpoint is far cheaper than rerunning reinforcement learning, while generic strong teachers are not. Practitioners training domain-specialised models can consolidate separate GRPO experts via multi-teacher OPD at a fraction of the cost. Readers comparing RL and distillation budgets will find a reusable evaluation framework here.
Benchmark scores on data cleaning may measure memorised entity knowledge rather than repair skill, so leaderboard rankings deserve scepticism when the underlying rows are public. Teams using LLMs to clean operational data should test on renamed surrogates or fresh records before trusting reported accuracy. The released controlled tables and offline replay scoring code make it straightforward to rerun the protocol on in-house data.
这篇论文造了 8000 多篇论文的数据集,专门研究怎么看出数学证明是不是 AI 写的,连改写过的都能识别出来,做学术检测的可以看看。
做 RAG 检索的可以看看:同一套 BEIR SciFact 查询下,加一层概率相关性重排,nDCG 从 0.64 提到 0.78,还给了成本和延迟的实测数据。
这篇论文讲了个有意思的现象:AI 写的文本被反复引用后又变成训练数据,慢慢改变人类语言习惯。想理解 AI 对社会的长期影响可以看看。
理论计算机科学版的 LLM 考试来了:GPT-6 Astra 和 Opus 5.5 分别拿下两个版本第一,还真能推进一些开放猜想的特殊情形,做研究的人可以看看这套用 Lean 验证的评测框架。
这篇论文教模型自己判断答案对不对,不用标准答案也不用多次采样,在 5 个模型 6 个基准上都跑出了不错的结果。
化工版的 agent 工作台,测试里花 224 美元 API 费就让智能体产出了一整套工程设计包,还带错误检查机制。
研究者做了个叫 tok 的纯文本流程建模格式,LLM 写它比写 BPMN XML 省约四分之一 token,校验还能查出 98.2% 的错误,做流程智能体的可以看看。
欧洲团队做了心脏病方向的多语言医疗模型,508 份病例扩成 7 种语言语料,结果挺有意思:专业预训练没用,多语言联合训练反而最强。
一篇病理AI检索论文,CLEAR-WSI用固定长度嵌入在四个数据集上都超过最强基线,做数字病理检索的可以看看具体方法。
数据不想交给中心服务器也能做 RAG 了,这篇论文的 ZeroRAG 不需要 DHT 也能路由到 10 万节点,做隐私检索的可以看看。
用大脑网格细胞做记忆架构,训练只看 40 个符号,测试能反转一万五千个符号的字符串,Transformer 做不到的 5 个任务它都解了。
arXiv 上一个免训练的推理技巧:找出几条推理轨迹的分岔点,借别的轨迹补生成,Qwen2.5-7B 在 MATH 上覆盖率从 89% 提到 91%。
给自动驾驶世界模型加新目标不用再重训了,采样时注入能量引导就行,三个公开 WAM 都涨了 1.8 到 3.6 EPDMS。
研究团队测了三种检索架构,持久化子代理在多轮对话里省了近一半 token 和成本,做 agent 的可以参考这些数字。
研究了量化剪枝为什么在大模型上更伤——用 attention heads 消融分解把补偿和真实损失拆开了,做模型压缩的可以看看。
把自然语言指令翻译成规划器能执行的符号目标,用微调加自排序两步提升准确率,做具身智能体的可以看看论文里的 CORE 方法。
aiXcoder 训了个 4B 小模型专门干代码合并这件事,准确率超过 Deepseek-V3.2,延迟从 50 秒砍到 1.89 秒,已经在他们 IDE 插件里跑起来了。
AMD's FP8 attention path has lagged NVIDIA's, partly because the MI355X lacks hardware tracking of matrix instruction completion, making software scheduling critical. ZYFA shows that careful kernel design can close much of that gap, and its open-source release gives engineers a drop-in option for MI355X prefill workloads. Teams benchmarking AMD accelerators against H100 or B200 deployments, including those running DeepSeek-style MLA, should test it against their current AITER setup.
arXiv 上这篇聚合物性质预测的论文挺有意思,用几何分片代替人工化学规则,还把 3D 构象信息加进去,预测精度有提升,做材料方向的同学可以看看。
搜索型智能体上下文越滚越大的老毛病,这篇论文用注意力熵给检索块打分,延迟降 30%、token 省 45%,成功率还涨了 2.35 个点。
数学圈好消息:KAN 网络的表达能力第一次有了紧的上界和下界,还证明深度大于等于 2 时线性区域比 ReLU 网络多出多项式倍,搞理论的朋友可以细看。
训练小模型的人可以看看这篇:CoRD 改进在线策略蒸馏,Qwen3 系列 0.6B 到 4B 上数学基准 pass@1 平均多涨约 1 到 2 个点,收敛还快 5 倍。
一篇挺扎心的审计论文:老一套的类不平衡方法在去掉数据泄漏后基本没用,做医疗影像的人建议都看看这套诊断协议。
把决策模型当 RL 的起跑器:智能体第一局就拿到奖励,7 个任务全赢纯 RL,还附了怎么写任务描述的指南。
Only the latest 2000 items are listed; for older ones see the daily archive