#MoE模型

共 8 条 · 7 天 1 条 · 30 天 2 条

Alibaba 1 AMD Strix Halo 1 Claude 1 Fireworks 1 GPT-6.1 1 Kimi K3 1 OpenRouter 1 Qwen3 1

信息流里打上「MoE模型」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月9日

产品 Agent 与开发者多源确认72°15:51

OpenAI发布GPT-6.1 Sol Ultrafast，速度提升8倍

OpenAI新模型速度提升8倍，Anthropic推出实时仪表板，StepFun大模型上线，都是开发者关心的实用更新。

#GPT-6.1 #Claude #StepFun #OpenRouter

事件专题

TestingCatalog@testingcatalog11 个信源在谈原文

10月2日

技巧 Agent 与开发者07:09

强化学习计算成本优化方案

Fireworks公司通过协同构建引擎，解决了强化学习中rollout和训练分离带来的计算和一致性问题。

#强化学习 #MoE模型 #Fireworks #计算优化

Fireworks AI@FireworksAI_HQ原文

7月20日

模型中美对照官方一手05:45

阿里预览Qwen3.8-Max，2.4万亿参数多模态模型

阿里放了个大招，Qwen3.8-Max有2.4万亿参数，号称仅次于Fable 5，但没给具体跑分，价格只要十分之一，值得关注。

#Qwen3.8-Max #Alibaba #Kimi K3 #多模态

事件专题

官方一手marktechpost@Asif Razzaq11 个信源在谈原文

7月17日

技巧 Agent 与开发者精选11:21

本地运行AI模型的内存知识：独立显卡与统一内存的权衡

想在家跑AI大模型？这篇对比了RTX 5090和AMD迷你PC，解释了为什么统一内存能装大模型但速度慢，还教你用MoE模型提速。

#RTX 5090 #AMD Strix Halo #统一内存 #MoE模型

阮一峰的网络日志原文

6月10日

论文精选72°09:08

CPU-GPU混合设计实现本地MoE推理云级SLO

本地跑MoE大模型终于能追上云端的服务质量了——做本地部署的开发者可以直接参考这套CPU-GPU混合方案，不用再忍受降级模型和低吞吐。

#MoE模型 #CPU-GPU混合 #推理优化 #本地部署

arXiv: DeepSeek@Wenxin Wang 等 5 人原文

6月2日

论文09:41

TACG：任务感知分组降低多任务MoE推理通信成本31%

MoE推理的通信瓶颈终于有了任务感知的解法——做多任务MoE部署的团队可以直接参考TACG的静态分组+GESR动态复制策略，实测通信成本降三成，公平性几乎无损。

#MoE模型 #分布式推理 #通信优化 #任务感知分组

arXiv cs.AI@Zhiyao Xu 等 6 人原文

5月27日

论文精选12:13

ReMoE：通过路由器微调提升内存受限MoE模型推理中的专家复用

ReMoE解决了内存受限设备上MoE模型推理的I/O瓶颈，做边缘部署或大模型推理优化的开发者可以直接试，开源代码让复现门槛很低。

#MoE模型 #推理优化 #路由器微调 #专家复用

arXiv: DeepSeek@Xiongwei Zhu 等 6 人原文

5月25日

论文精选11:22

Complete-muE：MoE模型最优超参数迁移与缩放框架

做大规模MoE模型训练的团队终于有了可靠的超参数迁移方案——不用为每个专家配置重新调参，直接复用密集模型的超参数即可，建议做预训练优化的点开看看。

#MoE模型 #超参数迁移 #缩放法则 #Transformer

arXiv cs.LG@Hongwu Peng 等 6 人原文