13:28Soumith Chintala (PyTorch)@soumithchintalaPyTorch 创始人 Soumith Chintala 在 X 上发帖,为团队招募超算工程师,负责构建实时交互模型 Tinker 和大规模训练背后的基础设施。岗位涵盖调度、存储、网络、可靠性和分布式系统,工作地点在纽约和旧金山。这标志着 AI 基础设施领域对高端工程人才的需求持续增长。行业超算工程师GPU集群分布式系统Soumith Chintala基础设施推荐理由:如果你擅长 GPU 集群和分布式系统,这是直接参与下一代实时交互模型基础设施的机会,建议关注。原文
01:59rohanpaul_ai@rohanpaul_ai72°Apodex-1.0-H 是一个用于深度研究的重型智能体团队,通过将网络研究任务分配给多个智能体,并在生成答案前审计每条证据链,声称达到 SOTA 结果。它将深度研究视为 AI 智能体的分布式系统问题:一个编排器分配子智能体不同的上下文和工具,然后事实核查、冲突审查和草稿审查智能体测试薄弱声明。真正的亮点在于,Apodex 展示了一条可能的“推理时扩展”路径,即更好的答案不是来自更大的模型,而是来自多个协调的搜索智能体、持久追踪和独立的验证层。AI产品智能体深度研究推理时扩展分布式系统Apodex推荐理由:做深度研究或复杂信息检索的开发者,值得关注 Apodex 的分布式智能体思路——它可能改变“大模型=好答案”的惯性认知,用多智能体协作+验证层来提升结果可信度。原文
11:05arXiv cs.LG@Abdurakhmon Sadiev, Artavazd Maranjyan, Ivan Ilin, Peter Richtárik精选Muon 作为 AdamW 的替代方案在神经网络训练中表现出色,但基于线性最小化预言机(LMO)的方法通常采用同步训练,在异构分布式系统中受限于慢速工作节点。本文提出 Ringmaster LMO,一种异步 LMO 动量方法,借鉴 Ringmaster ASGD 的延迟阈值思想,通过丢弃过时梯度实现最优时间复杂度。该方法在广义 (L0, L1)-光滑性下建立了收敛保证,并开发了参数无关的变体。实验表明,在随机二次问题和 NanoChat 语言模型预训练中,Ringmaster LMO 在异构环境下显著优于同步和异步基线。论文异步训练分布式系统优化算法MuonLMO推荐理由:分布式训练团队终于有了异步 LMO 方法的理论保障——Ringmaster LMO 解决了异构集群中慢节点拖累效率的问题,做大规模预训练或异构系统优化的开发者值得关注。原文