发生了什么
10 月 30 日，商汤开源 SenseNova Loop-9B-Preview。它不是「再发一个大模型」，而是把 Looped Transformer（循环 Transformer）这一长期停留在论文层面的架构，做成了可直接下载、部署与微调的开源实现，许可为 Apache 2.0。
32 层如何跑出 56 次计算
模型共 32 个独立解码器层。前 4 层与最后 4 层各跑一遍，中间的 24 层（第 4 至 27 层）共享同一套权重，前向传播时连续执行两遍，即对输入先跑一次、再把输出作为输入跑第二次。于是磁盘上只存约 9B 参数，单次前向却完成 56 次解码层计算，官方称推理等效规模约 14.6B。深度来自重复执行，而不是复制权重。
- 双流 mHC（Manifold-Constrained Hyper-Connections）：循环段维护两条残差流，由可学习映射决定每层从哪条流读取、如何在流间混合、算完写回哪条，并用 Sinkhorn 归一化（20 次迭代）约束混合比例，防止一条流压过另一条。
- 混合注意力：每 4 层为一组，3 层线性注意力搭配 1 层全注意力，循环段边界与整组对齐，使 256K 上下文的成本可控。
- 官方消融实验：加入 mHC 后 GPQA Diamond 提升 4.42 分，多步骤 Agent 基准 TeamBench 提升 13.34 分。
规格与部署
- 存储约 9B 参数、推理等效约 14.6B；隐藏维 4096、前馈维 12288；词表 248320；16 个注意力头、4 个 KV 头（GQA）。
- 输入文本与图像、输出文本；训练上下文最长 262144 token；主干 BF16 导出，mHC 路由参数保留 FP32 以保证稳定性。
- 官方核对环境为 Transformers 5.18.0 与 PyTorch 2.11.0（CUDA 13.0）；循环结构属自定义实现，加载必须 trust_remote_code=True。另提供 LightLLM 多卡镜像与社区 SGLang 支持。
- 多 token 预测（MTP）已可用，Dspark 与 Dflash2 两套投机解码标注为「训练中」；社区已有 GGUF 量化版本，Q8_0 约 8.9 GB，可在 16 GB 显存设备上运行。
数字的分量与边界
官方自报在 WorkBuddy Bench 得 66.89、BIRD-Dev 得 71.38、Terminal-Bench 2.1 为 40.45%，并在 RaccoonPPT Bench 与 AutomationBench 上超过 Qwen3.5-27B。
这些数字需要打折看待。其一，全部成绩为商汤自报，尚无第三方独立榜单收录；其二，优势集中在办公、PPT、智能体这类多步骤工具任务，并不代表开放域对话全面超过 27B 通用模型；其三，循环计算把 56 次层计算塞进一次前向，同样输出长度下单次前向耗时高于普通 32 层模型，KV 缓存也不像标准深度架构那样容易压缩，低延迟场景未必划算。
技术报告仍标注为 TBD，Transformers 原生集成待公布，Preview 意味着权重与接口都可能变动。但从行业角度看，它确实补上了一个空白：此前循环架构基本停留在研究验证，社区缺少能直接上手的实现。