商汤开源 SenseNova Loop-9B:9B 参数逼近 27B 模型表现

鲸云网11月1日消息,据媒体报道,商汤科技于 10 月 30 日宣布开源商汤日日新 SenseNova Loop-9B-Preview,这是一款以循环计算扩展有效深度的 90 亿参数模型,官方称其在有限参数规模下已可媲美 270 亿参数级别模型的表现。

商汤开源 SenseNova Loop-9B:9B 参数逼近 27B 模型表现

该模型采用 Looped Transformer 架构,思路是把中间层改造为参数共享的循环计算模块,通过多轮迭代来“拉长”有效计算深度,而非简单堆高参数总量。基座保留首尾各 4 层原始解码器模块,中间层则承担循环展开。

在循环计算的基础上,研发团队进一步引入 mHC(Manifold-Constrained Hyper-Connections,流形约束超连接)机制。它通过多路残差连接与受约束的信息混合,增强特征之间的交互,同时维持信号在深层网络中的稳定传播。

评测结果显示,Loop-9B-Preview 在代码生成、办公场景与智能体任务等多个方向上表现优于同档位模型,并在 WorkBuddy Bench、RaccoonPPT Bench、AutomationBench 等基准中超过 Qwen3.5-27B。

消融实验量化了 mHC 的实际收益:采用该机制后,GPQA Diamond 提升 4.42 分,TeamBench 提升 13.34 分,说明其在复杂推理与多步骤 Agent 任务上具备一定潜力。

商汤方面表示,后续还会继续探索 DSA、自适应迭代次数等机制,目标是在推理效率与任务表现之间取得更好平衡。

用架构创新换取“小参数逼近大参数”,指向的是更低的部署与推理成本。对端侧设备、本地化推理以及对延迟和算力敏感的业务场景而言,这类轻量但能力不弱的开源模型具备实际价值。

开源模型领域近一年明显转向“以小博大”:在参数总量之外,循环计算、混合专家、更高效的注意力机制等结构创新,正成为提升小模型上限的主要路径,Loop-9B-Preview 是这一思路的最新落地样本之一。

如需转载请务必注明出处:鲸云网  责任编辑:华磊

华磊的头像华磊
上一篇 2026年11月1日 上午11:54
长安启源 Q06 上市首月销量破万,带动品牌月销冲上 6.3 万辆
下一篇 2026年11月1日 下午1:33

相关推荐