Latest
一个 35B 的 MoE 智能体模型 Sage-A1.5,能让多个子智能体并行分工干活,还会自己检查进度、换思路,甚至做探索性科学研究。
用本地 31B 开源模型自动进化检索的语义索引设计,NQ320K 上 Recall@1 提到 59.3%,不用调 API,搞检索的可以看看。
一篇新论文,把多个异常检测器的结果交给 VLM 来仲裁融合,在 MVTec AD 和 VisA 上分数超过常规加权融合,做工业质检的可以看看。
论文挺有意思:策展模型只是挑了挑几乎一样的图片,就把偏好悄悄传给了学生模型,LLaVA、Qwen 这些都中招,做数据清洗的值得看看。
训练 DPO 的朋友可以看看:学习率要按模型大小重新调,验证损失也不靠谱,文章还给了一套省算力的调参方法。
搞工业故障诊断的可以看看,PhyNet 用物理变量当约束,四个基准包括三个真实空化数据集都拿了最优,不要求信号时间对齐,落地友好。
一篇把 harness 优化收益拆开来量的论文,结论挺反直觉:小预算下赢了更强模型,预算放大后可能翻车,做 agent 工程的可以看看。
现在代码审查越来越需要区分人和 AI 写的代码,这篇论文做到了行级定位,比以往只给一个文件总分的方法细多了,做代码安全或审计的可以看看。
这篇论文把世界模型和语言模型接上了:用语言描述动作,一个预测器跨机器人、视频多个领域通用,规划比视频生成基线快13.9倍,做机器人方向值得细看。
有人给在线持续学习专门造了个优化器,直接替换 SGD 或 AdamW 就能涨点,连无回放场景都有效,做持续学习的可以看看。
AMD 把剪枝当成多目标优化来做,Llama-3.1-70B 砍掉 25% 层后数学分还能涨 10 个点,代码也会开源。
用卫星数据重建 1955 到 2019 年每年 1 公分辨率的土地利用地图,这篇论文把评估方法拆得挺细,做地球系统建模的可以看看。
想搞懂 Scaling Law 为什么长那样的人看这篇:它把损失下降拆成几何、谱、优化三步推导,emergence 和 grokking 也讲清楚了。
一项对抗鲁棒性研究:给 ℓ1 攻击加个逐坐标上限,APGD-ℓ1 等三种攻击的成功率几乎不掉,说明扰动分布方式是个新评估维度。
一篇可解释 AI 论文,EMN 模仿人脑记忆检索原型来解释分类结果,在四个数据集上把子类对齐提升了 104.57%,准确率也没落下。
训练稀疏网络的省算力新招:用稀疏重连阶段替代昂贵的稠密阶段,CIFAR100、ImageNet 和 GPT-2 上都验证了效果,做模型压缩的可以看看。
研究者让 VLM 像小孩学数数那样逐个点物品数数,9 个模型的精确计数范围差了近 100 倍,标记还能审计模型是不是真在看图。
DeepSeek 系模型实验数据挺有意思:只给答案就能把第二问成功率从 36% 拉到 57%,做 agent 规划的可以看看。
这篇论文教你让稀疏注意力模型多层共用一套候选池,不用重训,vLLM 里给 DeepSeek-V4-Flash 实测提速 1.4 倍还省电,做推理优化的值得看。
研究者做了个能在终端本地跑的漏洞挖掘智能体,用 DeepSeek V3.1 和 Qwen3-Coder 测出了比 Claude Sonnet 4 方案还高的准确率,搞安全审计的可以看看。
Distillation, widely treated as a cost-free way to propagate capability, appears to propagate shared weaknesses at the pool level — a systemic risk individual robustness scores miss. Security teams and labs evaluating fleets of models can use SAR-style measurement to diversify their stacks. The finding is directly relevant to any ecosystem, including ASEAN deployments, that leans on a small set of distilled frontier models rather than independently trained ones.
一篇把 ChatGPT、Gemini、DeepSeek V3 等 10 个模型拉到同一起跑线测幻觉的论文,结论很反直觉:答得全的不一定准,Falcon 零幻觉但漏掉大半答案。
数学证明里有个关键引理是 Claude Opus 5.5 找到的,还顺手解决了一个拖了很久的逆问题,逆向数学方向可以看看。
OpenAI 这次不是发模型,是解了一个几十年的数学开放问题,构造出 χ 与 χ* 首次分离的例子。这篇论文把背后的信息几何讲清楚了,数学背景的读者可以细看。
Stanford 训了一族不靠语言预训练的文生图模型 Halcyon,算力省几百倍还能打赢 LlamaGen,思路挺反直觉,代码也放出来了。
双层优化以前要求下层强凸,这篇给了两个 Newton 方法放宽到 Hessian 奇异也能跑,还拿 GPT-2 数据重加权做了实验,搞优化的可以看看。
这篇论文提出了把记忆直接做进模型计算里的 MemT-1.0 架构,128K 长度下推理快 1.86 倍、存储省 66 倍,做智能体的可以看看记忆方案怎么做。
把 LoRA 微调用在脑编码上,连 104B 的 Qwen3-Omni 都能高效适配,还拿了 Algonauts 2025 第一,做法挺巧的。
去中心化联邦学习里各客户端互相转介查询,不用中央调度也能汇总分布式专长,医疗数据实验结果不错,做分布式训练的可以看看。
蒸馏来的概率继承老师的偏差,加再多数据也去不掉,这篇用精确计算证明了这点,还拿 CFPB 23 万条投诉数据做了实测。
arXiv 上这篇表格 ML 论文拿 8 个数据集、最多约 1000 万样本做数据扩展实验,比较 GBDT、MLP 和表格基础模型谁吃数据,做表格建模的可以看看结论。
标注太贵?这篇论文教你只用一部分人工标注,剩下的靠模型打标签也能训练,从线性回归到 LLM 微调都验证了。
Only the latest 2000 items are listed; for older ones see the daily archive