Experts

general · 首次出现 2026-05-22 · 最近出现 2026-09-12 · 累计提及 109

综述

"Experts"在人工智能领域特指混合专家模型(Mixture of Experts, MoE)中的专业神经网络组件,这些组件共同协作处理输入数据的不同方面。近期,随着MoE架构在大型语言模型中的广泛应用,专家系统的优化与部署成为研究热点。

Experts 近期进展

  • 2026年7月,Moonshot AI开源了MoonEP专家并行通信库,专为MoE训练设计,实现了专家间的完美平衡通信。Moonshot AI 开源 MoonEP:专为 MoE 训练设计的专家并行通信库
  • Kimi K3模型以2.8T参数量开源,其MoE架构使其性能接近Claude Fable 5和GPT-5.6 Sol等顶级模型。Kimi K3:2.8T参数开源MoE模型,性能接近Claude Fable 5和GPT-5.6 Sol
  • Thinking Machines Lab发布Inkling,这是一款975B参数的开源多模态MoE模型,仅激活41B参数,实现了可控思考努力。Thinking Machines Lab 发布 Inkling:975B 参数开源多模态 MoE,激活 41B 参数,可控思考努力
  • 当前焦点与观察点

    专家系统的效率提升成为关注焦点,CARE方法通过自适应专家路由提升了MoE-LoRA的效率并改进了OOD检测能力。CARE:自适应专家路由提升MoE-LoRA效率与OOD检测

    分布式专家推理技术也在进步,DA-MoE方法实现了自适应内核调度,优化了专家间的资源分配。分布感知MoE推理:DA-MoE自适应内核调度方法

    值得注意的是,70%的企业AI部署失败被归因于使用方式不当,而非专家系统本身的问题。Hebbia CTO:70%的企业AI部署失败,原因在于使用方式

    专家架构在智能体模型中也展现出潜力,35B参数的Agents-A1 MoE模型在长视野任务上媲美万亿参数模型的性能。Agents-A1:35B MoE智能体模型在长视野任务上媲美万亿参数性能

    相关报道

    10 条在档