12:57歸藏(guizang.ai)@op7418精选71°Noam Shazeer(Transformer论文作者之一、MoE架构提出者)加入OpenAI,负责模型架构研究。谷歌此前以27亿美元收购Character.AI换取他加入谷歌。但Shazeer在谷歌停留短暂后即转投OpenAI。行业Noam ShazeerTransformerMoEOpenAICharacter.AI模型架构10 个信源在谈推荐理由:Transformer论文作者Noam Shazeer,MoE提出者,跑到OpenAI研究模型架构了,谷歌27亿美元白花了?原文
23:12Philipp Schmid@_philschmid72°Google 昨日发布 Gemma 4 12B 模型,并附有详细架构图解。该模型创新性地移除了视觉和音频编码器,仅用一个 12B 参数模型即可处理文本、图像和音频,无需独立的编码器模块。图解展示了编码器通常如何连接模态与大语言模型,以及 Gemma 4 如何通过单一模型实现多模态理解。这一设计简化了模型结构,降低了部署复杂度,对多模态 AI 研究者和开发者具有重要参考价值。AI模型Gemma 4多模态模型架构Google图解10 个信源在谈推荐理由:多模态模型架构的一次简化尝试,做模型部署或边缘推理的团队值得看看图解,理解无编码器方案如何降低资源开销。原文