产品简介
SenseNova Loop-9B-Preview 是商汤开源的循环多模态模型,走的是另一条提升能力的路:不把参数堆大,而是让同一组权重多算几遍。模型共 32 个解码器层,首尾各留 4 层,中间第 4 到 27 层这 24 层作为共享循环模块执行两遍,写出来是 B(B(h))。一次前向做约 56 次层计算,存下来的权重仍然只有 32 层,约 9B。
循环最难的地方不是多跑一遍,而是第二遍别把第一遍的信号搅乱。它用了双流 mHC,在循环块里维护两条残差流,用可学习的映射控制信息在两条流之间路由与混合,混合矩阵用 Sinkhorn 归一化约束、迭代 20 次。注意力按四层一组排布,三层线性注意力加一层全注意力,循环边界正好对齐整组。
结果是训练上下文最长 262,144 token,输入吃文本与图像,输出文本,定位在长文档与智能体工作流。许可证是 Apache 2.0,权重在 Hugging Face 与 GitHub 放出,主干 BF16、mHC 路由参数 FP32,社区已有 GGUF 量化版,Q8_0 约 8.9GB。官方口径是这个规模能媲美 27B 级表现,技术报告尚未公开,模型仍标 Preview。
核心功能
- 循环加深而非堆参数:中间 24 层权重共享、执行两遍,一次前向完成约 56 次层计算却只存 32 层权重,用小显存换计算深度。
- 双流 mHC 信息传递:循环块里两条残差流配合可学习映射做路由与融合,混合矩阵经 Sinkhorn 归一化约束,让第二遍迭代不破坏信号传播。
- 混合注意力:解码器每四层一组,三层线性注意力加一层全注意力,循环边界与完整组对齐,在效率与全局信息之间取平衡。
- 256K 长上下文:训练最长 262,144 token,面向长文档理解与多步智能体任务,适合一次塞进整份材料再提问。
- 文本与图像输入:自回归多模态解码器,输入接受文本与图像、输出文本,可读图表与文档截图。
- 开源可商用:Apache 2.0 放出权重,支持 Transformers 加载与 SGLang、LightLLM 部署,社区量化版能在 16GB 显存设备上跑。
适合谁用
以下类型的用户会特别受益于 SenseNova Loop-9B-Preview:
- 把上百页的合同或研报一次塞进去,做跨章节的比对与提问。
- 接进带工具调用的智能体流水线,处理需要多步推理的办公任务。
- 在显存有限的机器上私有部署,用 9B 的存储代价换接近更大模型的任务表现。
- 喂进企业知识库做长文档问答,输入可以夹图表截图。
- 做 PPT 与数据分析这类结构化产出,官方在演示文稿基准上有对应成绩。
- 拿来做循环架构的实验样本,对比同参数量的稠密模型。
优点亮点
- 权重只有 9B,显存门槛低,适合私有化与小团队自建。
- 循环计算把有效深度拉起来,官方基准在智能体与办公任务上表现突出。
- 256K 训练上下文,长文档一次读完不用切片。
- Apache 2.0 许可,商用与再训练都放得开。
- 社区已有 GGUF 量化,16GB 显存设备能跑起来。
- 支持 SGLang 与 LightLLM 部署,接入现有推理服务不难。
价格与方案
Apache 2.0 开源。权重在 Hugging Face 的 sensenova/SenseNova-Loop-9B-Preview 与 GitHub 的 OpenSenseNova/SenseNova-Loop 仓库,主干以 BF16 导出、mHC 路由参数为 FP32。加载需要 trust_remote_code 以带上自定义循环实现,官方示例基于 Transformers。部署侧提到 SGLang 与 LightLLM,社区另有 GGUF 量化版本,Q8_0 约 8.9GB。官方托管 API 尚未公布价格,目前主要用法是自己部署权重。
总结与建议
Loop-9B 真正拆开的是两件常被混在一起的事:存多少参数,和每个 token 算多深。省下来的是权重的存储与显存占用,算力并没有省,56 次层计算该跑还是要跑,所以它对学生私有部署、端侧这类显存紧、吞吐要求不高的场景最有意义。官方把它摆在 27B 的对手位置上,榜单是自己跑的,技术报告还没出,现在更合适的看法是它提供了一个能下载、能自己复现的循环架构样本。
版本演进
- SenseNova Loop-9B-Preview 收录:9B 循环架构开源 (2026-10-31):收录时形态:商汤开源的 Looped Transformer 多模态模型,32 层中第 4 到 27 层共享权重执行两遍,一次前向约 56 次层计算,约 9B 存储参数、约 14.6B 推理等效计算。引入双流 mHC 与 Sinkhorn 约束的信息混合,注意力按三层线性注意力加一层全注意力分组。训练上下文最长 262,144 token,输入文本与图像、输出文本。官方基准在 BIRD-Dev、WorkBuddy Bench、AIDABench、TeamBench 与 RaccoonPPTBench 上给出高于 Qwen3.5-27B 的分数,mHC 消融在 GPQA Diamond 与 TeamBench 上分别提升 4.42 分与 13.34 分。Apache 2.0 开放权重,社区有 GGUF 量化版。