精选理由
微信自己搞的 WeLM 80B 已经在小微里落地了,617B MoE 版也在路上,做微信生态开发的可以盯一下。
微信团队发布大语言模型 WeLM,核心方向是资源利用效率。WeLM-80B 拥有 800 亿总参数和 30 亿激活参数,已部署在微信原生 AI 助手小微上,支持聊天、搜索和调用小程序服务。WeLM-617B 总参数达 6170 亿、激活参数 230 亿,采用混合专家(MoE)架构,目前正在开发中,面向智能小程序开发和小微工具生成等复杂任务。
原文 · IT之家
腾讯微信公布 WeLM 模型:80B 版已在 AI 助手小微上应用,617B 版正在开发
IT之家 8 月 13 日消息,腾讯微信团队在 X 平台公布了由微信团队打造的大语言模型 WeLM ,该模型以资源利用效率为核心。 根据官方公布的海报,WeLM 系列大语言模型目前已经明确的两个规格是: WeLM-80B:800 亿总参数,30 亿激活参数 WeLM-617B:6170 亿总参数,230 亿激活参数 其中,WeLM-80B 模型已部署于微信原生 AI 助手“小微”,支持以下功能: 聊天与搜索 使用微信原生功能 调用小程序服务 IT之家获悉,WeLM-671B 模型正在开发中,为混合专家模型(MoE);在保持适度激活参数的前提下,显著提升通用理解与逻辑推理能力,面向微信生态内的复杂任务: 智能小程序开发 小微工具生成 相关阅读: 《 微信 AI 助手“小微”再扩容,灰度测试朋友圈“帮写”及“点评”功能 》