这篇论文有点意思:Claude 教 DeepSeek 时不是直接写攻略,而是先跑诊断探针找出弱模型卡在哪,再针对性写技能,成功率从 75% 拉到 86%。给做 Agent 框架和多人协作系统的开发者提供了可复用的技能准入机制思路。
Latest
印度团队实测了 9 个主流 tokenizer 处理 25 种印度语言的开销,Odia 在 GPT-4o 上要多花 5 倍 token,Sarvam 的 tokenizer 差距最小。做多语言客服或按 token 预算的团队,选模型前值得查一下自己的语言在哪个 tokenizer 上最省。
做医学影像或不确定性建模的值得看:作者把条件熵加进 EDL 正则项,在 RIM-ONE-DL 等数据集上校准误差比 MC Dropout 和 Deep Ensembles 都低,还能用 Grad-CAM 看模型是否盯错了视盘。
眼科 AI 落地最怕漏掉微动脉瘤,这篇给了个能多提 10 个点 Dice 的开源方案。做医学影像分割的可以直接下代码复现,做 Mamba 架构改进的也能借鉴它的可变形扫描思路。
无人机上跑模型的团队值得看看这篇:它实测了 Alibi-Detect、NannyML、PyTorch-OOD 三个开源工具,不只看能不能检测出偏移,还测了耗时,这俩在机载设备上经常冲突。做模型监控选型前可以当对比清单用。
这项研究解释了为什么不同论文测组合泛化结论互相矛盾:很多基准里的模块序列其实功能等价,模型是在走捷径。做基准设计或评估模型泛化能力的开发者应该看看,结论会直接影响你怎么切训练测试集。
做 LLM 评测榜单的人可以看看这篇:在 Bradley-Terry 模型上加边级差分隐私,不只给排名,还给每个名次的置信区间和 top-K 检验,模拟实验和创意写作排名案例都有。要保护人类评委偏好数据时很实用。
搞 RLHF 或最大熵 RL 的朋友可以看这篇。以前理论界是 H^5,现在证明 H^3 就够,还首次给出带温度 β 的下界。做 RLHF 训练时要估采样预算的话,这篇能直接告诉你该按什么规模分配样本。
训练奖励模型时只盯一个注视点太粗糙了,这篇论文把注意力做成空间梯度分布,准确率确实涨了。做 RLHF 或对齐研究的同学可以看看这个建模思路。
做主动式智能体的开发者可以看看这篇。Coco 用独立的 Observer Agent 在本地观察桌面行为,判断什么时候帮你、什么时候别打扰,介入判断的 F1 提升了 2.4-3.0 倍。数据不出设备这点对企业场景很关键,还附带 OSWorld-Persona 基准可直接用来测自己的方案。
模拟电路调参不再需要云端大模型:4B 小模型本地跑仿真闭环,Pass@1 反超 DeepSeek 的 763B 模型近 49 个百分点,还能跨工艺节点迁移。做 EDA 工具或芯片设计的工程师值得把它加进工具链,论文附带 41 个拓扑的开源基准可直接复现。
做主动学习的朋友可以看看,作者把 ProbCover 的欧氏距离换成 Fermat 距离,在 8 个数据集上低预算标注场景表现更好,还给了理论保证。
做 LLM 推理服务的人可以看看这篇。vLLM 上跑的 ForeSpark 把草稿和验证长度一起调度,吞吐比 DSpark 高 1.77 倍,高负载下草稿浪费的算力能省下来。
这篇论文用核机器的谱分解把 ICL 的泛化和记忆讲成同一解的不同截断,思路很新颖。它还证明没有特征学习的模型也能做 ICL,并用高阶统计量解释了 transformer 的记忆行为。做理论研究和理解 ICL 机制的研究者应该看看。
做推理部署的可以看看:SMC 解码顺手就能算出序列级熵,不用额外跑补全。论文在 MATH500 上验证过,两遍策略用少 34.2% 的粒子就能保住 64 粒子的准确率,算力紧张的团队直接受益。
The non-obvious insight is that per-layer prefetch slack, not raw bandwidth, decides whether lookup tables fit on NVMe, DRAM, or remote memory — static hot sets transfer poorly for agent traffic. Inference engineers running DeepSeek-V4.1 or similar n-gram-augmented models on SGLang can reclaim roughly 180 GiB of host memory and convert it into KV cache, directly lifting throughput. Compared with simply scaling up DRAM, the RDMA option lets one table copy serve two instances, cutting per-node memory cost.
跑过 vLLM 智能体服务的人应该都见过那种莫名的性能崩塌,这篇论文把它解释清楚了:一次几小时的突发流量就能让命中率掉到 10%,吞吐腰斩还自己好不了。论文给了能用的预算器方案,不用调参,直接把 KV 池撑爆的可能性掐掉。
如果你在部署低比特量化的 Agent,这篇很值得看。它让 W4A16 量化模型的表现只差 BF16 一分以内,训练成本还比 QeRL 少 67% 的 GPU 时数。做端侧 Agent 或成本敏感推理的工程师可以直接参考。
做 AI 制药或分子生成的朋友可以看看,这篇用 PBPK 模拟给生成管线的筛选流程补了剂量暴露这一环,60 个 PARP1 候选里近三分之一会在这一步被筛掉或翻盘。如果你只依赖预测效力和毒性打分来选分子,这篇会改变你的评估思路。
Amazon 把训练 LLM 时那些损失曲线看不出问题的静默故障系统化排查了,61 个 bug 里有 32 个是无声的。做训练的同学可以照着七类失败模式对号入座,排查自己框架里有没有同类坑。
搞地震成像或黑洞成像的科研党可以看看这篇。它把物理方程直接揉进生成传输里,比条件扩散模型重建更准,推理还比 PnP 方法快最多五个数量级,代价敏感的大规模反问题模拟很用得上。
Microsoft Research 指出 Agent 里少量休眠神经元就能埋后门,触发前一切正常,很难察觉。防御反而老套:管好模型来源和权限。自己在企业里部署 Hugging Face 开源模型的团队,这篇值得当供应链安全检查清单用。
AWS 这篇手册把智能体评测拆成了任务完成、跑题、数据泄露这些具体维度,教你怎么在 AgentCore 上选对评测器。写智能体的开发者可以直接照着搭回归测试,不用再靠肉眼验收。
Meta 这篇论文解决了一个很实际的问题:agent 一更新,judge 提示词就失效。AutoRefine 拿测试通过和 PR 合并这些现成信号自动改提示词,一致性从 0.16 拉到 0.51。做 agent 评测的工程师应该看看。
CSET 和 CFR 的两位研究员写了一篇反常识文章:别盯 AI 灭世剧本,自动化偏见这种日常风险正在真实伤人。做 AI 落地、写合规政策的人都该看看,比生存风险辩论更贴近你手头的工作。
A frozen tactile model matching a sensor-specific adapter is the notable result — it suggests touch data can become reusable infrastructure rather than per-robot sensor data, similar to what ImageNet-style pretraining did for vision. Robotics teams building dexterous hands should evaluate it as a drop-in feature extractor before collecting sensor-specific datasets. Weights and code are open, so benchmarks can be replicated directly on any tactile hardware.
做代码模型评测的可以看看这个,SWE-bench 全是 Python 任务,这套覆盖了各种冷门语言,想测模型真实代码修复能力又有新参照了。
如果你在用 LLM 跑仿真驱动的研究,这篇论文正好回答一个头疼问题:仿真出错时模型能不能自己发现。做自动化实验和 AI for Systems 的人可以看看原文。
The gap between the theoretical 5.4-point router ceiling and the 0.3-point real-world gain reframes routing as a cost tool, not a quality tool. Teams building LLM applications, especially those balancing API budgets against output quality, can use the 25.5X coding-efficiency figure to justify routing to cheaper models for routine requests. The cross-domain benchmark coverage beyond language models makes the findings useful for robotics and multimodal pipelines too.
The practical shift here is that cost optimisation moves from model selection to infrastructure — a middleware layer can be reused across Claude Code, Codex and other harnesses. Engineering leads running production agents should audit trace logs for repeated context reads and unnecessary tool calls before upgrading to a costlier model. Teams in cost-sensitive markets, including ASEAN startups paying USD-denominated API bills, gain a lever that compounds across every harness they deploy.
The non-obvious takeaway is that the hard part of agent-driven infra optimisation is verification, not code generation — the contract-and-recheck design is what makes the 2.75x speedups real. ML engineers and platform teams running multi-GPU training can apply the same contract-based evaluation to their own agent workflows. The cross-GPU memory of learned models suggests reusable optimisation knowledge across heterogeneous clusters.
AI 2027 那份预测报告的作者们把时间线提前了 5 个月,认为 2027 年就会出现能自己做 AI 研究的超级系统。不管你信不信这个预测,这份报告此前引发了大量讨论,看看他们为什么改主意挺有意思。
Stanford AI100 这个百年研究计划刚出了第三份报告,专门梳理 2021 年以来生成式 AI 怎么一步步走进科研和日常生活。跟前两份比,这版把生成式 AI 的规模化当成主线来写,做政策或研究的人可以直接拿来当参考。
The non-obvious finding is that distractor damage is localised in a handful of attention heads, so a lightweight patch can match most of what a costly retraining effort would achieve. Teams running RAG or agent systems on open-weight models can implement the mask as an inference-time intervention without touching training pipelines. Compared with context-cleaning heuristics that filter noisy documents before inference, head masking operates inside the model and needs only a one-time identification of the offending heads per model. Practitioners in ASEAN serving models under cost constraints benefit because the fix adds no training expense.
苹果没训练任何机器人模型,只把 Claude Opus 5.5 接上摄像头和机械臂,RoboLab-120 上零样本就拿到 85.6%,比专门训过的 VLA 高了近一倍。做机器人或具身智能的值得看看这个思路,缺点是实时性还跟不上。
Jack Clark 分享了他爱看的一类 AI 论文:专攻某个极窄场景的应用研究,像 CucumberVision at the Edge 这种标题就很妙。想做 AI 落地、关心模型在真实环境里会卡在哪的人,可以顺着这个思路找论文看。
机器人方向的朋友可以留意:11 月 12 日在 Austin,Lambda 会用 BEHAVIOR、RoboEval、RoboChess 三个基准拆解仿真到真机的完整流程,想搞懂 sim-to-real 怎么落地的话现场听一手经验比读论文快。
The key insight is that evaluation and inference-time scaffolding can substitute for expensive data synthesis and fine-tuning on long-context tasks. Teams serving small open models like Llama3-8B or Qwen2.5-3B can apply the approach to extend context handling at under half the cost of training-based methods like NExtLong or PolicyLong. Engineers building local or low-budget deployments should test harness transfer before commissioning post-training runs.
OpenAI 和 Upwork 拿自家平台数据做了份研究,发现带 AI 技能的单子预算更大、时长更长,客户还要求传统技能叠 AI 能力。靠接单吃饭的朋友建议看看,直接关系到你接下来该补什么技能。
中国团队把AI智能体接进了真实的基因实验室,ADN合成和测序都让它自己跑,不用人守在旁边。做生物实验自动化的研究者和实验室负责人可以看看这套思路。
Only the latest 2000 items are listed; for older ones see the daily archive