MoE 相关 AI 资讯

7月28日

16:16

官方一手Pandaily@contact@pandaily.com (Pandaily)

82°

Moonshot AI发布47页Kimi K3技术报告，核心架构包括KDA+Gated MLA混合注意力机制。AttnRes跨层检索层降低推理成本。Stable LatentMoE包含896个专家，支持动态路由。采用51.2M规模的RL沙箱进行强化学习训练，提升模型对齐能力。报告还引入模型参数与推理时间两个缩放轴，重新定义性能前沿。

事件专题

推荐理由：Moonshot AI 发了Kimi K3的47页技术报告，混合注意力、896专家MoE和5100万RL沙箱的架构特别硬核，值得看它怎么跟DeepSeek对标。

原文

13:38

小互@imxiaohu

精选

Kimi K3 是一个拥有2.8万亿参数的混合专家（MoE）模型，包含896个专家，每次推理激活16个。通过三处架构改动，其训练算力效率提升至原来的2.5倍。训练过程使用了5122万个沙箱资源。

AI模型 Kimi K3 MoE 推理模型

事件专题

推荐理由：Kimi 新模型K3 参数2.8万亿，896个专家，算力效率拉高2.5倍，技术细节很扎实。

原文

12:32

官方一手arXiv: DeepSeek@Dengke Han

精选

DraftExpert针对在端侧设备（CPU-GPU或Flash-NPU卸载）部署大型MoE语言模型时的延迟问题，提出了一种扩展感知的自推测解码框架。它通过自蒸馏从冻结目标MoE中为每层训练一个轻量级驻留加速器的草稿专家，推理时使用固定足迹的共享+top-1+草稿专家解码器，结合置信度扩展截断和目标专家预取。在DeepSeek-V2-Lite和Moonlight-16B-A3B上，解码吞吐量平均提升1.45倍，草稿接受率达到84%~87%，预取命中率86%~88%。

论文 DraftExpert MoE 自推测解码

推荐理由：论文提出DraftExpert，通过训练轻量草稿专家和预取机制，让端侧MoE模型推理速度提升1.45倍，适合关注边缘部署和推理加速的朋友。

原文

11:47

官方账号arXiv cs.LG@ Kimi Team, Tongtong Bai, Yifan Bai, Yiping Bao, M. C., Jianfeng Cai, Xinyuan Cai, Peizhou Cao, Yuxuan Cao, Ziwei Chai, Y. Charles, H. S. Che, Guanduo Chen, Guangyu Chen, Guanzheng Chen, Huarong Chen, Jia Chen, Jianlong Chen, Jun Chen, Kexin Chen, Peng Chen, Ruijue Chen, Wentao Chen, Xin Chen, Yang Chen, Yanru Chen, Yifei Chen, Yingjiang Chen, Yuankun Chen, Yujie Chen, Yutian Chen, Zhirong Chen, Dazhi Cheng, Yean Cheng, Jialei Cui, Jingbing Cui, Anqi Dai, Jiaqi Deng, Hao Ding, Rui Ding, Shaofeng Ding, Mengfan Dong, Mengnan Dong, Yuhao Dong, Yuxin Dong, Angang Du, Chenzhuang Du, Dikang Du, Jusen Du, Yulun Du, Yu Fan, Jing Feng, Qiulin Feng, Yichen Feng, Kelin Fu, Qiang Fu, Fuxuan Gao, Hongcheng Gao, Jingyue Gao, Tong Gao, Weijia Gao, Shangyi Geng, Jie Gong, Linhu Gong, Shengao Gong, Xiaochen Gong, Qizheng Gu, Yicheng Gu, Shuhao Guan, Haiqing Guo, Shiqi Guo, Xiang Guo, Zhengyan Guo, Beixi Hao, Wenxin Hao, Xiaoru Hao, Dailan He, Haotian He, Lehan He, Qi He, Weiran He, Xinran He, Xinyi He, Yibo He, Yunjia He, Chao Hong, Tiange Hong, Hao Hu, Jiaxi Hu, Ruikun Hu, Weiming Hu, Yangyang Hu, Zhenxing Hu, Liang Hua, Jinbin Huang, Ke Huang, Ruiyuan Huang, Siying Huang, Weixiao Huang, Yan Huang, Zhengjie Huang, Zhiqi Huang, Yulong Hui, Chaobo Jia, Yutong Jiang, Zhejun Jiang, Zuoyou Jiang, Wenyi Jin, Xinyi Jin, Yu Jing, Huanjun Kong, Guokun Lai, Aidi Li, Cheng Li, Chengyuan Li, Cong Li, Fang Li, Guanyu Li, Haoyang Li, Jia Li, Junxiong Li, Lei Li, Letian Li, Lincan Li, Weihong Li, Wentao Li, Xintong Li, Yang Li, Yishen Li, Yiwei Li, Yuxiao Li, Zhaowei Li, Zhaoxi Li, Zheming Li, Zhengxiao Li, Zhiyuan Li, Jiawei Lin, Xiaohan Lin, Yibo Lin, Zichao Lin, Ziyan Lin, Bill Liu, Boxiao Liu, Chuan Liu, Liang Liu, Shaowei Liu, Shudong Liu, Shuran Liu, Tianwei Liu, Weizhou Liu, Yangyang Liu, Yanming Liu, Yibo Liu, Yipeng Liu, Zhengying Liu, Zhiheng Liu, Enzhe Lu, Haoyu Lu, Linqiang Lu, Tingzhan Lu, Zhiyuan Lu, Aotian Luo, G. Luo, Junyu Luo, Yifan Luo, B. Lyu, Wenzhou Lyu, Shaoguang Mao, Yuan Mei, Xin Men, Minqing Ni, Yixuan Niu, Siyuan Pan, Shujun Peng, Zhangyang Qi, Ruoyu Qin, ZeChao Qin, Zeyu Qin, Haiquan Qiu, Jianxin Qiu, Jiezhong Qiu, Bowen Qu, Yuhao Qu, Zeyu Shang, Youbo Shao, Han Shen, Jincheng Shi, Juanfeng Shi, Lidong Shi, Shengyuan Shi, Wingchun Siu, Pengwei Song, Xiaoxi Song, Jianlin Su, Yunfeng Su, Zhaochen Su, Lin Sui, Jingsong Sun, Junyao Sun, Shaoning Sun, Shuzhe Sun, Tongyu Sun, Yujun Sun, Yunpeng Tai, Chuning Tang, Heyi Tang, Sirui Tang, Zecheng Tang, Chaoran Tian, Rongpeng Tian, Yu Tian, Wei Tu, Chensi Wang, Chuang Wang, Chunjie Wang, Dinglu Wang, Feng Wang, Hailong Wang, Haiming Wang, Hao Wang, Hao Wang, Huaqing Wang, Hui Wang, Jiayi Wang, Jinglong Wang, Jinhong Wang, Jiuzheng Wang, Linian Wang, Shaobo Wang, Shenzhi Wang, Shuyi Wang, Si Wang, Siyuan Wang, Tianfu Wang, Wenjue Wang, Xingran Wang, Xinmei Wang, Xinyuan Wang, Xusheng Wang, Yalin Wang, Yangkun Wang, Yao Wang, Yaoyu Wang, Yejie Wang, Yiqin Wang, Yucheng Wang, Yuzhi Wang, Zhaoji Wang, Zhaowei Wang, Zhengtao Wang, Zhenhao Wang, Zhongsheng Wang, Zifan Wang, Chu Wei, Ming Wei, Shouxin Wei, Zichen Wen, Fan Wu, Haoning Wu, Rucong Wu, Wenhao Wu, Xiaoxue Wu, Yingcong Wu, Yongqi Wu, Yuxin Wu, Zijian Wu, Xinglang Xian, Chenxuan Xiang, Yuye Xiang, Bocheng Xiao, Chenjun Xiao, Xin Xiao, Jin Xie, Xiaotong Xie, Yifeng Xie, Zhe Xie, Bowei Xing, Yiming Xiong, Baosheng Xu, Boyu Xu, Jiale Xu, Jianfan Xu, Jing Xu, Jinjing Xu, L. H. Xu, Qingtao Xu, Shuyao Xu, Suting Xu, Tiantian Xu, Tianxiang Xu, Weixin Xu, Xinran Xu, Yangchuan Xu, Ye Xu, Yueni Xu, Ziyao Xu, Haonan Xue, Junjie Yan, Yaoyao Yan, Fan Yang, Guangyao Yang, Hao Yang, Junwei Yang, Ruoyu Yang, Wenjie Yang, Xiaofei Yang, Xinyu Yang, Yi Yang, Yiling Yang, Ying Yang, Yuchen Yang, Zhen Yang, Zhilin Yang, Zian Yang, Zuhao Yang, Haotian Yao, Dan Ye, Haoran Ye, Wenjie Ye, Zhanbo Ye, Bohong Yin, Haoxiang Yin, Xietong Yin, Chengzhen Yu, Haozhen Yu, Longhui Yu, Shengnan Yu, Shuying Yu, Tianxiang Yu, Enming Yuan, Mengjie Yuan, Tongtian Yue, Wei Yue, Yang Yue, Dunyuan Zha, Haobing Zhan, B. H. Zhang, Dehao Zhang, Fei Zhang, Hao Zhang, Haoyuan Zhang, Huanyu Zhang, Jiapei Zhang, Jiaxuan Zhang, Jin Zhang, Kaiyi Zhang, Miaozhen Zhang, Puqi Zhang, Qinglei Zhang, Rong Zhang, Rui Zhang, Shaoshuai Zhang, Shiyi Zhang, Xiaobin Zhang, Xiaoyun Zhang, Y. Zhang, Yangkun Zhang, Ye Zhang, Yichi Zhang, Yikun Zhang, Yizhi Zhang, Yongting Zhang, Yu Zhang, Yutao Zhang, Yutong Zhang, Zheng Zhang, Zijing Zhang, Bin Zhao, Chenguang Zhao, Feifan Zhao, Jinglun Zhao, Jinxiang Zhao, Shuai Zhao, Wenshuo Zhao, Xiangyu Zhao, Xuanle Zhao, Yikai Zhao, Zijia Zhao, Haozhi Zheng, Huabin Zheng, Ruihan Zheng, Shaojie Zheng, Tengyang Zheng, Haofeng Zhong, Lei Zhong, Longguang Zhong, M. Zhou, Qiankang Zhou, Runjie Zhou, Ruozhang Zhou, Xinyu Zhou, Yiqiao Zhou, Zaida Zhou, Jinguo Zhu, Liya Zhu, Xinhao Zhu, Yangjunfeng Zhu, Yuxuan Zhu, Zhen Zhu, Chen Zhuang, Weiyu Zhuang, Xinxing Zu

Kimi K3是一个2.8万亿参数的Mixture-of-Experts模型，激活参数104B，支持100万token上下文窗口和原生视觉。它采用Kimi Delta Attention和Attention Residuals改进信息流动，训练效率相比Kimi K2提升约2.5倍。后训练中应用了强化学习，覆盖通用、智能体和编程领域，实现组合泛化。在长程编码、智能体、知识、推理和视觉任务上达到前沿水平，但整体性能仍落后于Claude Fable 5和GPT-5.6 Sol。官方已开源完整模型权重。

AI模型 Kimi K3 MoE 开源模型

事件专题

推荐理由：Kimi 开源了2.8T参数的K3模型，激活104B参数，能处理百万token上下文，视觉能力也不弱，性能直逼Claude和GPT-5.6，适合用来部署或研究。

原文

09:49

官方一手pandaily@contact@pandaily.com (Pandaily)

72°

Moonshot AI 正式开源 Kimi K3 模型，拥有 2.8T MoE 参数、896 个路由专家，每 token 激活 16 个专家，支持 1M 上下文窗口。同时开源 MoonEP、FlashKDA 和 AgentEnv 三项基础设施技术。技术报告与模型权重同步发布。

AI模型 Kimi K3 Moonshot AI MoE

事件专题

推荐理由：Moonshot AI 发布了 2.8T 参数的 Kimi K3，MoE 架构加 1M 上下文，还配套了工具，开源党可以玩起来了。

原文

01:20

ollama@ollama

Kimi K3 是 Moonshot 最新的旗舰模型，采用 2.8T 参数 MoE 架构，原生支持视觉理解并拥有 100 万 token 上下文窗口。新架构实现每单位计算智能提升 2.5 倍。该模型已上线 Ollama 云端，需要 Pro 或 Max 订阅并消耗额外积分才能使用。Ollama 同时开源了模型权重、技术报告以及高性能注意力内核和 MoE 通信库。

AI模型 Kimi K3 Ollama Claude Code

事件专题

推荐理由：Kimi 新旗舰 K3 登上 Ollama，2.8T MoE 超强视觉理解，还能直接配合 Claude Code 用，性能提升 2.5 倍每单位计算。

原文

01:01

宝玉@dotey

81°

Kimi K3 是 Moonshot 发布的最强模型，总参数量 2.8T，采用 MoE 架构，支持原生视觉理解和 1M token 上下文窗口。新架构使每单位计算智能提升 2.5 倍，并非单纯增加参数量。除模型权重外，还开源了高性能 attention kernels、MoE 通信库和用于大规模 agent 环境运行的基础设施。模型权重已在 Hugging Face 发布，技术报告和博客同步公开。

AI模型 Kimi K3 MoE 多模态

事件专题

推荐理由：Kimi K3 开源了，2.8T MoE 模型，1M 上下文，每算力智能翻倍，还有全套底层代码，想研究大模型的快去下载。

原文

00:54

The Rundown AI@therundownai

75°

Moonshot 正式开源其最强模型 Kimi K3 的权重与技术报告。K3 是 2.8T 参数的 MoE 模型，支持原生视觉理解和 1M token 上下文窗口。新架构实现每单位计算智能提升 2.5 倍。同时开源了高性能注意力内核、MoE 通信库以及大规模智能体运行环境基础设施。

AI模型 Moonshot Kimi K3 MoE

事件专题

推荐理由：Moonshot 直接把最强模型 Kimi K3 权重开源了，2.8T MoE 还带视觉，算力效率翻倍，诚意满满！

原文

00:40

elvis@omarsar0

71°

Kimi AI 开源了其最强模型 Kimi K3 的权重和技术报告。K3 是一个 2.8T 参数的 MoE 模型，具备原生视觉理解和 1M token 上下文窗口。新架构使每单位计算智能提升 2.5 倍。此外，Kimi 还开源了高性能注意力内核、MoE 通信库和智能体环境基础设施。模型权重和报告已在 Hugging Face 和 GitHub 公开。

AI模型 Kimi K3 MoE 多模态

事件专题

推荐理由：Kimi K3 开源了，2.8T MoE 模型带视觉和超长上下文，还开放了底层工具链，值得研究。

原文

7月27日

23:17

23:17IT之家（博客/媒体）

82°

月之暗面开源了 Kimi K3 模型，参数规模达 2.8 万亿，基于 KDA 混合线性注意力机制和注意力残差技术构建。该模型原生支持视觉理解，拥有 100 万 token 上下文窗口，采用 MoE 架构在 896 个专家中激活 16 个。相比前代 K2，Kimi K3 的扩展效率提升约 2.5 倍，在长程编码、软件工程与视觉推理任务上表现突出。官方评测显示，K3 整体落后于闭源模型 Claude Fable 5 和 GPT-5.6 Sol，但超过了其他所有模型。

AI模型 Kimi K3 月之暗面 MoE

事件专题

推荐理由：月之暗面开源了 2.8 万亿参数的 Kimi K3，MoE 架构效率比 K2 高 2.5 倍，支持 100 万 token 上下文和视觉推理，值得关注。

原文

7月25日

02:46

官方账号vLLM@vllm_project

72°

蚂蚁集团Ling团队发布Ling-3.0-flash，一款124B参数的MoE模型，每个token仅激活5.1B参数。该模型采用混合线性注意力机制，支持原生256K上下文窗口，面向生产级智能体系统。vLLM项目祝贺其发布，并称赞其“先公告后开源”的发布模式。vLLM将在模型权重开源时提供支持，预计vLLM开源支持即将到来。

AI模型 Ling-3.0-flash AntLingAGI vLLM

推荐理由：蚂蚁的Ling-3.0-flash参数大但激活少，256K上下文，vLLM确认后续支持，开源在即。

原文

00:55

官方账号vLLM@vllm_project

精选

vLLM 项目发布实验性插件 vLLM AFD Plugin，由 Ascend、vLLM、阶跃星辰、蚂蚁集团、FastAFD 联合开发。该插件针对 MoE 模型提出 Attention-FFN Disaggregation（AFD）方案，将注意力和专家/FFN 路径作为独立服务运行，支持独立扩缩容。AFD 运行在 NVIDIA GPU 和 Ascend NPU 上，无需 fork 即可使用相同 vLLM 服务接口。

AI模型 vLLM AFD Plugin MoE Attention-FFN Disaggregation

事件专题

推荐理由：vLLM 出了个新插件，把 MoE 推理的注意力层和专家层拆分部署，想分别扩缩容就方便了，支持 NVIDIA 和昇腾卡。

原文

7月24日

06:30

官方账号Nous Research@NousResearch

精选

蚂蚁集团（AntLingAGI）发布新MoE模型Ling-3.0-flash，总参数124B，激活参数5.1B，运行速度快。该模型专为智能体工作负载设计，涵盖编码、搜索、研究和工具使用场景。即日起一周内，用户可通过Nous Portal免费使用。

AI模型 Ling-3.0-flash AntLingAGI NousResearch

推荐理由：蚂蚁发了新MoE模型Ling-3.0-flash，124B参数但只激活5.1B，跑得快，还免费一周。适合搞智能体、编码或搜索任务，快去体验。

原文

06:09

OpenRouter@OpenRouterAI

Ling-3.0-flash是一款124B参数的MoE模型，每token仅激活约5.1B参数，由Novita Labs提供。该模型已在OpenRouter平台上线，主打token高效的agentic推理。即日起至8月3日可免费使用。

AI模型 Ling-3.0-flash Novita Labs OpenRouter

推荐理由：想省token跑agentic任务？试试Ling-3.0-flash，124B参数只激活5B，OpenRouter上免费到8月3日。

原文

7月23日

17:46

17:46IT之家（博客/媒体）

85°

阿里云宣布灵骏真武 M890 超节点实例成功适配 Qwen3.8，该模型参数规模达 2.4 万亿，是国内首个运行超 2 万亿参数大模型的超节点。真武 M890 通过 ICN Switch 1.0 实现 64 张芯片 800GB/s 互联，显存达 9TB，支撑 MoE 模型专家并行。实测显示 Optimizer 优化后 Agentic 推理性能提升 1.5 倍。

AI模型阿里云 Qwen3.8 灵骏真武M890

推荐理由：阿里云用真武 M890 跑通了 2.4 万亿参数的 Qwen3.8，显存 9TB，推理性能还提升了 1.5 倍，国内头一个做到的。

原文

09:55

官方一手arXiv: DeepSeek@Sungrae Park, Sanghoon Kim, Gyoungjin Gim, Jungho Cho, Hyunwoong Ko, Minbyul Jeong, Minjeong Kim, Keunwoo Choi, Chaehun Shin, Chanwoong Yoon, Dongjun Kim, Eunwon Kim, Gyungin Shin, Hyeonju Lee, Hyungkyu Kang, Inseo Song, Jisu Bae, Jiyoon Han, Jiyun Lee, Joonkee Kim, Junyeop Lee, Mikyoung Cha, Sangwon Yu, Sehwan Joo, Seokyoon Kang, Seonghoon Yang, Seung Shin, Seunghyun Lee, Seungseop Lim, Seungyoun Shin, Sukyung Lee, Taegyeong Eo, Taehwan Oh, Taewhoo Lee, Wonho Song, Wonjun Oh, Wonseok Hwang, Yunsu Kim, Yura Shim, Hwalsuk Lee, Sunghun Kim, Du-Seong Chang, Kyunghyun Cho, Seungju Han, Yejin Choi, Junsuk Choe, Hwaran Lee, Minjeong Ban, Yun Taewon, Hwanjun Song, Jae-Gil Lee, KyungTae Lim, Alice Oh

Solar Open 2 是一个 250B 参数（15B 激活）的混合专家（MoE）语言模型，上下文窗口达 1M token。它采用混合注意力机制，每 3 层线性注意力插入 1 层 softmax，无位置编码。训练上，从 Solar Open 1 初始化 5.69B 参数共享骨架，并通过质量与稀有度感知的数据筛选将 20T 语料缩减为 10T 以提升效率。通过多教师同策略蒸馏（MOPD）融合 12 个领域专家。在 MMLU-Pro、LiveCodeBench 和 APEX-Agents 上领先，韩语基准平均最高，Ko-GDPval 上以不到 1/6 参数量与 DeepSeek-V4-Pro (1.6T) 竞争。

AI模型 Solar Open 2 MoE 长上下文

事件专题

推荐理由：Solar Open 2 发了，250B MoE 模型，1M token 超长上下文，专门跑复杂智能体任务。MMLU-Pro 和 LiveCodeBench 都领先，韩语能力还特别强，比 DeepSeek-V4-Pro 小很多但性能接近。

原文

7月22日

14:24

14:24IT之家（博客/媒体）

82°

英伟达宣布其 Blackwell GB300 在 256 块 GPU 上预训练 DeepSeek-v3 671B 模型，每 GPU 算力达到 1648 TFLOPs，刷新 MoE 预训练世界纪录。相比 2025 年 11 月的 1088 TFLOPs，性能优化提升 50%。与上一代 GB200 的 606 TFLOPs 相比，GB300 实现了约 3 倍性能跃升。英伟达通过模拟超过 25 万种配置，发现 38 项优化方案，累计进行 140 万小时 GPU 优化测试。

AI模型 DeepSeek-v3 英伟达 Blackwell

推荐理由：英伟达用 Blackwell GB300 跑 DeepSeek-v3，每 GPU 1648 TFLOPs，比上一代快 3 倍，技术优化真猛。

原文

11:24

向阳乔木@vista8

MoE（Mixture of Experts）是一种神经网络架构，顶级模型如 Fable5、GPT 5.6 sol 均采用此设计。该架构通过门控网络动态激活部分专家，在保持推理效率的同时扩展模型容量。当前主流大模型如 Mixtral 8x7B 也基于 MoE，印证了其在性能与成本间的平衡能力。

技巧 MoE 混合专家模型 Fable5

事件专题

推荐理由：想搞懂大模型为什么这么快？这个帖子用 Fable5 和 GPT 5.6 sol 当例子，把 MoE 的原理拆明白了，适合入门

原文

07:42

elvis@omarsar0

Poolside发布Laguna S 2.1，一款118B总参数的Mixture-of-Experts模型，每token仅激活8B参数。支持1M上下文窗口，提供thinking和no-thinking两种模式。模型从训练到发布不到9周，权重完全开源在Hugging Face，可在单个NVIDIA DGX Spark上运行。其性能可匹敌参数规模大数倍的模型。

AI模型 Laguna S 2.1 Poolside 开源模型

事件专题

推荐理由：Poolside开源了Laguna S 2.1，118B参数只要8B激活就能跑，单卡DGX Spark就能用，还能和超大模型正面刚！

原文

02:49

OpenRouter@OpenRouterAI

PoolsideAI 发布了开放权重的 Laguna S 2.1 模型，采用 118B-A8B 混合专家架构。该模型拥有 1M 上下文窗口，专门用于智能体编码和长时任务。在 Terminal-Bench 2.1 基准上得分 70.2%，在 DeepSWE 上得分 40.4%。模型现已通过 OpenRouter 平台提供使用。

AI模型 Laguna S 2.1 PoolsideAI OpenRouter

推荐理由：PoolsideAI 出的 Laguna S 2.1，118B MoE 带 1M 上下文，Terminal-Bench 上 70.2%，专搞编码智能体，想试试直接去 OpenRouter 用。

原文

01:34

官方账号NVIDIA AI@NVIDIAAI

AI模型 Laguna S 2.1 poolside MoE

事件专题

推荐理由：poolside 新出的 Laguna S 2.1 开源又高效，118B 模型只激活 8B 就能跑，还支持 1M 上下文，值得一试。

原文

7月21日

09:48

官方账号arXiv cs.LG@Xin Yuan, Ning Li, Quan Chen, Wenchao Xu, Athanasios V. Vasilakos, Song Guo, Haijun Zhang

OrderMoE提出了一种利用专家相似性的分布式部署框架，专为资源受限的边缘基础设施设计。它通过路由器诱导的logits表示构建专家相似性模型，将MoE层中的专家分组到多个相似性组中。然后采用相似性感知的专家分组与部署策略，提高边缘服务器间的本地相似性覆盖率。在真实边缘测试平台上，OrderMoE显著降低了平均延迟、尾延迟、跨服务器流量和远程专家调用比例，且推理质量下降可控。

论文 OrderMoE MoE 边缘计算

推荐理由：这篇论文把MoE模型卸到边缘设备上跑，靠专家相似性分组减少跨服务器通信，实测延迟和流量都降了，质量只掉一点。

原文

7月20日

10:47

官方账号arXiv cs.LG@Yuchen Yang, Yifan Zhao, Anisha Dasgupta, Sasa Misailovic

MoE大模型在KV缓存密集场景下，模型权重与KV缓存之间存在GPU内存竞争。PagedWeight方法在运行时动态量化MoE权重，平衡专家权重精度与缓存大小。在多个内存敏感场景中，PagedWeight在FP16等效精度下节省72.0% GPU内存并提升1.94倍吞吐量。在相似内存预算下，其质量比现有量化方法高出39.3%，吞吐损失不超过4.1%。

论文 MoE LLM推理权重量化

推荐理由：这篇论文展示了PagedWeight方法，能在MoE模型服务里动态量化权重，省内存还保准，比之前的方法效果明显更好。

原文

10:23

10:23IT之家（博客/媒体）

腾讯混元大模型Hy3限时免费活动延长至8月5日，面向WorkBuddy和CodeBuddy用户。Hy3于7月6日开源，采用MoE架构，总参数295B，激活参数21B，支持256K上下文。模型在推理、智能体、长上下文任务上显著进步，性能比肩参数规模2-5倍的更大模型。

AI模型腾讯混元 Hy3 MoE

推荐理由：腾讯又给了两周免费试用Hy3，到8月5日。这个295B参数的MoE开源模型激活仅21B，但性能能打，适合推理和智能体场景。

原文

09:16

官方账号arXiv cs.AI@Zitian Gao, Yilong Chen, Yihao Xiao, Xinyu Yang, Ran Tao, Joey Zhou, Bryan Dai

Loopie系列包含两个MoE模型：20B参数（2B活跃）和6B参数（0.6B活跃）。它解决了循环Transformer的经典问题：在预训练计算量增加N倍时，循环N次不如增加参数N倍。实验表明，Loopie显著优于相同计算预算的普通Transformer基线。后训练阶段赋予模型强推理能力，在2025年IMO和IPhO中获得金牌（无外部工具）。

AI模型 Loopie IMO IPhO

推荐理由：研究者发布了Loopie循环Transformer，用更少活跃参数在IMO和IPhO拿到金牌，比普通模型强很多。

原文

7月19日

09:48

官方一手marktechpost@Michal Sutter

82°

文章对三款开源万亿参数MoE模型Kimi K3、DeepSeek V4 Pro和GLM-5.2进行了全面对比。对比涵盖了在多项基准测试中的表现、采用的MIT或Modified MIT许可证以及实际服务成本。文章提供了这些模型在不同维度上的差异分析，帮助读者了解各模型的优劣势。

AI模型 Kimi K3 DeepSeek V4 Pro GLM-5.2

事件专题

推荐理由：想选开源万亿模型？这篇直接拿三个主流模型比了基准、许可证和成本，看完就知道选哪个合适。

原文

7月18日

20:48

20:48IT之家（博客/媒体）

73°

阿里云在2026 WAIC上发布灵骏真武M890超节点实例，首次通过公共云提供超节点形态AI算力。该实例通过ICN Switch 1.0芯片将Scale-up互联规模从16卡提升至64卡，卡间互联带宽达800GB/s。相比上一代真武810E，训练性能提升三倍。单台可承载十万亿参数级MoE大模型推理。支持13万卡异构算力混布，平均可用性99.7%。

AI产品灵骏真武M890 阿里云 MoE

推荐理由：阿里云新出的超节点实例M890，单台就能跑十万亿参数的大模型，训练性能比上一代快三倍，适合搞大模型训练和推理的团队。

原文

08:09

OpenRouter@OpenRouterAI

Think Machines开发的Inkling模型已上线OpenRouter。该模型采用MoE架构，总参数975B、活跃参数41B。支持1M上下文长度，可处理文本、图像和音频。具备可控推理能力。

AI模型 Inkling Think Machines OpenRouter

事件专题

推荐理由：Think Machines的Inkling模型很特别，总参数975B但只激活41B，还有1M上下文和多种模态支持，值得上手试试。

原文

7月17日

12:13

AI Will@FinanceYF5

精选

Kimi 发布 K3 模型，基于两个架构更新：Kimi Delta Attention（KDA）和 Attention Residuals（AttnRes），旨在改善长序列和深层网络中的信息流动。模型采用 Stable LatentMoE 框架，在 896 个专家中激活 16 个，大幅提升稀疏性。结合训练和数据优化，K3 的扩展效率相比 K2 提升约 2.5 倍，即更高效地将算力转化为智能。

AI模型 K3 Kimi Attention Residuals

推荐理由：Kimi 发了 K3，用 KDA 和 AttnRes 让长序列处理更流畅，MoE 专家数拉到 896 只激活 16 个，扩展效率翻倍，适合追新架构的朋友。

原文

08:04

官方账号Together AI@togethercompute

精选

Thinking Machines Lab 联合 Together AI 发布了 Inkling 多模态 MoE 模型。该模型原生支持文本、图像、音频三种输入。它具备可控推理努力机制，允许在推理时动态调整计算量。基于 Together 的 FlashAttention-4 内核优化，显著提升 token 效率。在多个基准上展示了高效推理能力。

AI模型 Inkling Thinking Machines Lab Together AI

事件专题

推荐理由：Inkling 是 Thinking Machines Lab 的新多模态 MoE 模型，同时支持文本、图像、音频输入，还能控制推理计算量，效率很高。

原文

07:54

官方一手marktechpost@Asif Razzaq

83°

2026年7月16日，Moonshot AI 发布了 Kimi K3 模型，参数规模达2.8万亿。该模型采用 MoE 架构，包含896个专家，每次推理激活其中16个。Kimi K3 引入了 Kimi Delta Attention 和 Attention Residuals 机制，支持100万token的上下文窗口。模型以开源形式发布。

AI模型 Kimi K3 Moonshot AI MoE

事件专题

推荐理由：Moonshot AI 把 2.8 万亿参数的 Kimi K3 开源了，用了新注意力机制，还有 1M 上下文，直接看技术细节就对了。

原文

00:32

00:32官方账号Simon Willison’s Weblog（博客/媒体）

精选77°

Mira Murati 创立的 Thinking Machines Lab 发布了首个开源权重模型 Inkling。Inkling 是一个总参数 975B、激活参数 41B 的 MoE transformer，采用 Apache-2.0 许可，训练于 45 万亿 tokens 的文本、图像、音频和视频数据。该模型并非前沿模型，而是定位为通过 Tinker 训练平台进行微调的基础模型。Inkling-Small（276B 总参数, 12B 活跃）仍处于测试阶段，权重将后续发布。模型卡和训练数据文档信息较为简略，但 Inkling 在开源生态中可与 Nemotron 和 Gemma 4 竞争。

AI模型 Inkling Thinking Machines Lab 开源模型

事件专题

推荐理由：Mira Murati 的新实验室发布了 Inkling，975B 参数的 Apache-2.0 多模态开源模型，专门为微调设计，想折腾的开发者可以试试。

原文

7月16日

21:16

官方账号LMSYS Org (SGLang)@lmsysorg

86°

Inkling是thinkymachines发布的首个开源MoE模型，总参数量975B，激活参数41B。它支持最高1M上下文长度，原生处理文本、图像和音频。该模型已获得SGLang和Miles的Day 0支持，采用短卷积、相对位置嵌入注意力和共享专家sink MoE等新架构。推理优化包括DFlash投机解码和MXFP8 KV缓存，并支持全参数和LoRA RL训练。

AI模型 Inkling thinkymachines 开源模型

事件专题

推荐理由：thinkymachines开源了一个超大MoE模型Inkling，总参975B但只激活41B，还支持1M上下文和图文音频理解，已经可以在SGLang上跑了，想玩大模型的朋友可以试试。

原文

12:45

官方一手歸藏(guizang.ai)@op7418

87°

Thinking Machine 推出首款模型 Inkling，采用 MoE 架构，总参数量 975B，激活参数 41B，上下文窗口达 1M。模型在 45T 数据上训练，原生支持文本、图像和音频理解。同时发布 Small 预览版，激活参数 12B，且模型开源。后训练数据从 Kimi 2.5 等开源模型蒸馏得到。

AI模型 Thinking Machine Inkling Mira Murati

事件专题

推荐理由：Mira Murati 新公司出了开源多模态模型，近 1T 参数但只激活 41B，支持 1M 上下文，还能自己微调，值得试试。

原文

12:40

Junyang Lin@JustinLin610

推文讨论了模型战略使用而非技术方法。作者尝试了让MoE以专家模式运行以及设置任务路由器来节省成本，但发现效果不佳。他提出一个粗略标准：对于QA和简单智能体任务（如使用工具一次或两次或修复小bug），应使用较简单模型；对于大型代码项目或ML实验评估，则应使用更强模型。

技巧 MoE Task Router 智能体

推荐理由：JustinLin610分享了一个实用经验：搞MoE专家路由和任务路由器都不如直接按任务简单/复杂选模型，省心省力。

原文

11:01

shao__meng@shao__meng

76°

Thinking Machines（OpenAI前CTO Mira Murati团队）开源多模态模型Inkling，采用975B参数A41B MoE架构。在开源模型中，Inkling强于Nemotron 3 Ultra和Kimi K2.5，与Kimi K2.6、DeepSeek V4 Pro互有胜负：在IFBench、FORTRESS、SWEBench Verified上略胜，在HLE、SimpleQA、Terminal Bench上略输。整体弱于GLM 5.2，后者在多项基准领先。与闭源模型比，Claude Fable 5和GPT 5.6 Sol在agentic coding和推理上明显领先（SWEBench Verified 95% vs 77.6%），但Inkling在指令遵循上反超（IFBench 79.8% > Claude 63.5%）。

AI模型 Inkling Thinking Machines 多模态

事件专题

推荐理由：Mira Murati团队开源了多模态模型Inkling，975B参数，比Nemotron和Kimi K2.5强，指令遵循甚至超Claude，值得一试。

原文

07:51

官方一手marktechpost@Asif Razzaq

74°

2026年7月15日，Thinking Machines Lab 发布其首个从头训练的模型 Inkling。Inkling 拥有 975B 总参数、41B 激活参数，采用 Mixture-of-Experts 架构，原生支持文本、图像和音频输入，上下文窗口达 1M token。模型权重基于 Apache 2.0 许可开源，实验室明确它并非当下最强模型，而是定位为定制基础，其可控思考努力（Controllable Thinking Effort）是主要差异化功能。

AI模型 Inkling Thinking Machines Lab MoE

事件专题

推荐理由：Inkling 让你能控制模型思考深度，975B 参数但只激活 41B，适合做定制化基础模型。

原文

05:09

官方一手marktechpost@Asif Razzaq

Soofi Consortium 发布开源混合 Mamba-Transformer 混合专家模型 Soofi S 30B-A3B，总参数量 31.6B，每次推理仅激活 3.2B 参数。该模型专为德语和英语双语言优化，采用 Mamba 状态空间模型与 Transformer 注意力机制的混合架构。模型权重与训练代码已开源，研究者和开发者可直接下载使用。

AI模型 Soofi S 30B-A3B Soofi Consortium Mamba-Transformer

推荐理由：Soofi 出了一款开源模型，31.6B参数只激活3.2B，混合Mamba+Transformer架构，支持德语和英语，适合多语言场景。

原文

03:40

elvis@omarsar0

精选

Thinking Machines推出Inkling，一个975B参数（41B活跃）的MoE Transformer模型。它原生支持文本、图像和音频多模态处理。上下文长度提供64K和256K两种版本。完整权重已开放，可在Tinker平台进行微调。用户还能通过Inkling Playground直接体验。

AI模型 Inkling Thinking Machines MoE

事件专题

推荐理由：Thinking Machines开源了975B参数的MoE模型Inkling，支持多模态和64K/256K长上下文，还能在Tinker上微调，值得试试。

原文

7月15日

09:46

官方一手arXiv: DeepSeek@Jincheng Xie, Runheng Liu, Heyan Huang, Yawen Ling, Hanbin Dai, Yu Zheng, Wen Hu

精选

稀疏混合专家（MoE）模型在扩展LLM时依赖专家激活模式，现有投机解码忽视专家激活成本，导致专家散射增加内存流量。EcoSpec通过轻量级专家预测器和动态专家缓冲区，在保持高接受率前提下优先复用了当前验证集的专家路径。在DeepSeek-V3.1（671B）、Qwen3-235B-A22B、GPT-OSS-120B三个大规模MoE模型上，于推理、编码、问答和对话基准测试中，EcoSpec持续减少活跃专家足迹，最高实现1.62倍解码速度提升。

论文 EcoSpec MoE 投机解码

推荐理由：这篇论文提出EcoSpec，在DeepSeek-V3.1等MoE模型上通过成本感知投机解码最高提速1.62倍，值得关注。

原文