返回行业动态
企业AI落地

蚂蚁开源 1240 亿参数医疗模型:单 token 只激活约 51 亿

蚂蚁百灵开源医疗模型 Ling-3.0-flash-Sante,MIT 授权,基于 Ling-3.0-flash 的 MoE 架构,总参数 1240 亿、每 token 激活约 51 亿,上下文 25.6 万 token。官方评测显示 HealthBench Professional 从 45.73 升至 54.29,复杂医学推理从 65.22 升至 76.92。权重已在 Hugging Face 开放,官方定位是研究模型而非医疗器械。

来源:腾讯网 AI 周报:蚂蚁医疗模型 Sante 开源,专业医疗跑分升至 54.29原标题:字节 Seed 招聘具身岗位起薪 55K;高通被曝 11 月启动全球绩效裁员;Claude Code 一天内痛失两员核心开发者|AI 周报查看原文
超高倍微距下的蛋白质折叠结构,珍珠白与浅金色褶皱,外围包裹青蓝色发光分子节点网络

图片来源:北京拓实科技原创(AI 生成封面)

发生了什么

蚂蚁百灵在 Ling-3.0-flash 之后放出专用版本 Ling-3.0-flash-Sante,方向是医疗。结构仍是 MoE:总参数 1240 亿,每个 token 只激活约 51 亿,上下文窗口 25.6 万 token,许可证为 MIT。权重已在 Hugging Face 开放,官方提供 SGLang 与 vLLM 两套部署配方,并强化了文献检索、工具调用与多智能体协作,目标是支撑长流程医学研究而不是单轮问答。

  • 评测:HealthBench Professional 由 45.73 升至 54.29;复杂医学推理由 65.22 升至 76.92,提高 11.7 分(均为官方自报)
  • 显存现实:仓库体量约 255GB,模型卡头标 1240 亿,仓库文件清单另报 127B 张量,两者是不同口径的公开描述;SGLang 示例用 4 卡张量并行、单卡 141GB 级,80GB 的 H100/H800 需升到 8 卡
  • 两套配方不可混用:SGLang 用 lmsysorg/sglang:dev-Ling-3.0-flash 镜像,vLLM 走 Ling 兼容构建并启用 ling3 工具与 reasoning 解析器、前缀缓存与三 token 投机解码
  • 本地部署仍有自有成本:开放权重不等于免费算力,推理机的电费、调度与运维要单独算

为什么垂直模型值得单看

通用模型在专业医疗基准上长期吃亏,差距不在知识量,而在任务形态:读一叠相互矛盾的摘要、区分报告里的相关性与因果结论、指出缺失信息、把结论挂回原文段落。这类能力靠通用后训练很难补齐。开源权重的实际意义在于数据边界——病历、影像、基因序列不出院,模型跑在自有卡上,这在多数地区的合规框架下是硬约束,不是偏好。

分数提升的幅度也值得注意:HealthBench Professional 从 45.73 到 54.29 是 8.56 分,复杂推理提高 11.7 分。对研究型场景这是可用的改进,但离临床决策的距离仍由「是否做过湿实验或前瞻验证」决定,而不是由基准分数决定。

落地前要过的四道关

  • 定位:官方写明这是研究模型,不是医疗器械,也未经临床验证;任何涉及个体的判断都不能以它为依据
  • 硬件:先算清真实显存与成本,1240 亿总参数不会因为「只激活 51 亿」而从内存账本上消失
  • 评测口径:HealthBench 不是临床终点,且分数为自报;上线前应在自家任务上做可复核对照,把「不支持的主张」与「漏掉的事实」分开计分
  • 工具链:若接检索,必须保留检索回来的原文段落,逐条核对答案是否真的引用了被检索到的材料

结论

这家公司一周内连发两次医疗向更新,节奏说明垂直赛道正在被单独当作产品线经营。对医院信息中心与医疗 AI 团队,它的现实价值是一个可自托管的强基线:可以拿来做文献综述、病历结构化、指南问答的内部评测,但当前适合「辅助研究」而非「辅助诊断」。是否进入生产,取决于自家数据上的对照结果,而不取决于榜单。

编辑说明

本文由北京拓实科技根据公开信息整理,核心事实与数据请以原始来源为准。