首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于
汽车 morning

商汤发布SenseNova Loop-9B模型:配置显存低需求至10 GB内

2026-11-18 1 阅读 约3分钟阅读 IT之家
分享:
字号:
IT之家 11 月 17 日消息,商汤科技今天(17 日)晚间正式发布 SenseNova Loop-9B 模型。 该模型 延续了 Preview 版本对参数效率的探索 :通过 Loop 结构复用模型层的参数,并结合流形约束超连接(mHC),在约 9B 参数规模下扩展计算深度,面向复杂推理、代码、工具调用和多模态任务。 模型得益于 Loop 的高效循环结构, 官方 4bit 量化后权重仅约 4.9GB ,部署显存需求低至 10 GB 内,能显著拓宽可部署的硬件范围, 让低显存芯片获得前沿 27B 级别模型性能成为可能 。 SenseNova Loop-9B 总参数量约为 9B。模型通过两次执行共享的中间层,将 32 个物理解码层扩展为 56 次层计算;支持文本、图像输入和文本输出, 上下文长度最高可达 512K tokens 。 官方表示,在 Agent 与数据分析评测中,模型展现出与 Qwen3.8-27B 相当的竞争力:NL2Repo 得分为 41.36,接近后者的 44.60;AIDABench 得分为 65.31,高于后者的 65.01。 共享循环模块:将第 4–27 层组成共享权重的循环模块,并执行两次,使模型在一次前向传播中完成 56 次解码器层计算。 双流 mHC:通过可学习映射,对循环模块中的两条残差流进行信息路由与融合。 混合注意力:解码器以四层为一组,采用三层线性注意力与一层全注意力相结合的配置。 长上下文多模态:训练方案覆盖文本、图像、代码和工具调用轨迹,上下文长度最高扩展至 512K tokens。 低资源私有化部署友好:采用 4bit 权重量化与 8bit KV 缓存时,256K 长上下文推理的显存需求约为 15 GiB,有助于降低本地与私有化部署门槛。 官方量化版 Day 0 提供:模型发布首日同步提供官方 AWQ 4bit 量化版本,方便用户快速部署。 SenseNova Loop-9B 已开放模型权重与相关代码,供开发者和研究者下载、部署与探索。 围绕通用 Agent、代码和数据分析等任务,评测结果显示,SenseNova Loop-9B 正式版在多个榜单上的表现较 Preview 版本有明显提升;并在约 9B 参数规模下,展现出与 Qwen3.8-27B 比肩的性能表现。 IT之家附 Hugging Face 仓库: https://huggingface.co/collections/sensenova/sensenova-loop
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱