ChengRang
EN

SenseNova Loop-9B-Preview 新增

AI 大模型 开源

商汤开源的循环多模态模型,中间 24 层权重复用两遍,约 9B 存储换来约 56 次层计算,256K 上下文,面向长文档与智能体工作流

Looped Transformer 开源权重 256K 上下文 多模态 mHC
访问 SenseNova Loop-9B-Preview 官网

免责声明:测评内容仅代表编辑个人观点和使用体验,不构成任何商业推荐或投资建议。产品信息和价格可能随时变动,请以官方最新信息为准。

产品简介

SenseNova Loop-9B-Preview 是商汤开源的循环多模态模型,走的是另一条提升能力的路:不把参数堆大,而是让同一组权重多算几遍。模型共 32 个解码器层,首尾各留 4 层,中间第 4 到 27 层这 24 层作为共享循环模块执行两遍,写出来是 B(B(h))。一次前向做约 56 次层计算,存下来的权重仍然只有 32 层,约 9B。

循环最难的地方不是多跑一遍,而是第二遍别把第一遍的信号搅乱。它用了双流 mHC,在循环块里维护两条残差流,用可学习的映射控制信息在两条流之间路由与混合,混合矩阵用 Sinkhorn 归一化约束、迭代 20 次。注意力按四层一组排布,三层线性注意力加一层全注意力,循环边界正好对齐整组。

结果是训练上下文最长 262,144 token,输入吃文本与图像,输出文本,定位在长文档与智能体工作流。许可证是 Apache 2.0,权重在 Hugging Face 与 GitHub 放出,主干 BF16、mHC 路由参数 FP32,社区已有 GGUF 量化版,Q8_0 约 8.9GB。官方口径是这个规模能媲美 27B 级表现,技术报告尚未公开,模型仍标 Preview。

核心功能

适合谁用

以下类型的用户会特别受益于 SenseNova Loop-9B-Preview:

优点亮点

价格与方案

Apache 2.0 开源。权重在 Hugging Face 的 sensenova/SenseNova-Loop-9B-Preview 与 GitHub 的 OpenSenseNova/SenseNova-Loop 仓库,主干以 BF16 导出、mHC 路由参数为 FP32。加载需要 trust_remote_code 以带上自定义循环实现,官方示例基于 Transformers。部署侧提到 SGLang 与 LightLLM,社区另有 GGUF 量化版本,Q8_0 约 8.9GB。官方托管 API 尚未公布价格,目前主要用法是自己部署权重。

总结与建议

Loop-9B 真正拆开的是两件常被混在一起的事:存多少参数,和每个 token 算多深。省下来的是权重的存储与显存占用,算力并没有省,56 次层计算该跑还是要跑,所以它对学生私有部署、端侧这类显存紧、吞吐要求不高的场景最有意义。官方把它摆在 27B 的对手位置上,榜单是自己跑的,技术报告还没出,现在更合适的看法是它提供了一个能下载、能自己复现的循环架构样本。

版本演进

分类
AI 大模型
价格
开源
标签
Looped Transformer · 开源权重 · 256K 上下文