商汤发布 SenseNova Loop-9B:Loop 结构复用层参数,4bit 量化权重约 4.9GB
商汤发布 SenseNova Loop-9B 模型:部署显存需求低至 10 GB 内
商汤这个 9B 模型用循环复用层的做法,把 4bit 权重压到 4.9GB,10GB 显存就能跑出接近 Qwen3.8-27B 的效果。做本地部署或私有化 Agent 的开发者可以直接去 Hugging Face 下载权重和 AWQ 量化版试试。
商汤科技 11 月 17 日晚间发布 SenseNova Loop-9B 正式版模型,总参数量约 9B,开放模型权重与代码。核心机制是将第 4–27 层组成共享权重的循环模块并执行两次,使一次前向传播完成 56 次解码器层计算,配合双流 mHC(流形约束超连接)对两条残差流进行信息路由与融合。注意力方面采用四层一组的混合配置:三层线性注意力加一层全注意力。
部署效率是主要卖点:4bit 量化后权重仅约 4.9GB,部署显存需求可低至 10 GB 内;采用 4bit 权重量化与 8bit KV 缓存时,256K 长上下文推理显存约 15 GiB。官方在发布首日同步提供 AWQ 4bit 量化版本,上下文长度最高支持 512K tokens,训练覆盖文本、图像、代码和工具调用轨迹。
评测方面,模型在 Agent 与数据分析任务上与 Qwen3.8-27B 接近:NL2Repo 得分 41.36(后者 44.60),AIDABench 得分 65.31(后者 65.01)。对显存有限的本地与私有化部署场景,这种以循环结构换取计算深度的路线提供了 27B 级性能的低门槛替代方案。
商汤发布 SenseNova Loop-9B 模型:部署显存需求低至 10 GB 内
IT之家 11 月 17 日消息,商汤科技今天(17 日)晚间正式发布 SenseNova Loop-9B 模型。 该模型 延续了 Preview 版本对参数效率的探索 :通过 Loop 结构复用模型层的参数,并结合流形约束超连接(mHC),在约 9B 参数规模下扩展计算深度,面向复杂推理、代码、工具调用和多模态任务。 模型得益于 Loop 的高效循环结构, 官方 4bit 量化后权重仅约 4.9GB ,部署显存需求低至 10 GB 内,能显著拓宽可部署的硬件范围, 让低显存芯片获得前沿 27B 级别模型性能成为可能 。 SenseNova Loop-9B 总参数量约为 9B。模型通过两次执行共享的中间层,将 32 个物理解码层扩展为 56 次层计算;支持文本、图像输入和文本输出, 上下文长度最高可达 512K tokens 。 官方表示,在 Agent 与数据分析评测中,模型展现出与 Qwen3.8-27B 相当的竞争力:NL2Repo 得分为 41.36,接近后者的 44.60;AIDABench 得分为 65.31,高于后者的 65.01。 共享循环模块:将第 4–27 层组成共享权重的循环模块,并执行两次,使模型在一次前向传播中完成 56 次解码器层计算。 双流 mHC:通过可学习映射,对循环模块中的两条残差流进行信息路由与融合。 混合注意力:解码器以四层为一组,采用三层线性注意力与一层全注意力相结合的配置。 长上下文多模态:训练方案覆盖文本、图像、代码和工具调用轨迹,上下文长度最高扩展至 512K tokens。 低资源私有化部署友好:采用 4bit 权重量化与 8bit KV 缓存时,256K 长上下文推理的显存需求约为 15 GiB,有助于降低本地与私有化部署门槛。 官方量化版 Day 0 提供:模型发布首日同步提供官方 AWQ 4bit 量化版本,方便用户快速部署。 SenseNova Loop-9B 已开放模型权重与相关代码,供开发者和研究者下载、部署与探索。 围绕通用 Agent、代码和数据分析等任务,评测结果显示,SenseNova Loop-9B 正式版在多个榜单上的表现较 Preview 版本有明显提升;并在约 9B 参数规模下,展现出与 Qwen3.8-27B 比肩的性能表现。 IT之家附 Hugging Face 仓库: https://huggingface.co/collections/sensenova/sensenova-loop
This report is categorized under AITOP's "Models" desk, focusing on China's AI industry and domestic foundation model ecosystem. Within our cross-regional analytical framework, it directly maps to AI developer toolchains, coding agents, and engineering workflows and US-China foundation model benchmarks and commercialization comparison. Key entities and technical topics under continuous tracking include SenseNova, SenseTime, Qwen3.8, open-source models.
Source attribution: curated from IT之家.