返回行业动态
模型与产品

Aleph Alpha 开源 Kolibri:780 亿参数只激活 35 亿,主打欧洲主权模型

德国 AI 公司 Aleph Alpha 于 10 月 3 日开源 Kolibri——一个 780 亿总参数、约 35 亿激活参数的英德双语 MoE 模型,完整权重以 Apache 2.0 许可在 Hugging Face 发布,上下文最高可扩展至 100 万 token。它面向公共行政、工业与航空航天等受监管场景,强调数据不出本地、供应链可追溯,并通过弃答训练减少幻觉。厂商自报多项 基准领先,但尚无第三方复现,在工具调用与软件工程任务上与同类开源模型互有胜负。

来源:Aleph Alpha 官方博客:Kolibri Has Landed — A Sovereign Open-Weight Model原标题:Kolibri Has Landed: A Sovereign Open-Weight Model查看原文
以深色数据中心冷通道与中央发光多面体核心表现的欧洲开源大模型发布

图片来源:北京拓实科技原创(AI 生成封面)

发生了什么

德国 AI 公司 Aleph Alpha 于 10 月 3 日(德国统一日)发布并开源 Kolibri。这是一个英德双语的混合专家(MoE)Transformer,总参数约 781 亿、每个 token 仅激活约 34.6 亿,完整权重以 Apache 2.0 许可在 Hugging Face 公开,企业可以下载、微调并部署在自有基础设施上。公司把它定位为面向公共行政、工业与航空航天等受监管领域的「主权模型」,强调数据不必离开客户环境,从数据摄取到最终评测的每一个决策都可追溯。

规格、训练与部署

  • 架构:384 个专家、每个 token 激活 6 个;共 50 层,其中 40 层为滑动窗口注意力、10 层为全注意力,用以压低长上下文的推理成本。
  • 上下文:原生支持 26.2 万 token,通过服务端参数可扩展至 100 万 token。
  • 训练:约 20 万亿 token,在 768 张英伟达 B200 上训练约 21 天;德语原生文本占预训练语料 21.3%,并使用自研 UniBPE 分词器提升德语处理效率。
  • 能力:内置工具调用与四档推理力度(none、low、medium、high);训练中引入弃答数据与 Merlin-Arthur 协议,使模型在上下文缺失答案时倾向于回答「我不知道」。
  • 部署门槛:运行至少需要约 78GB 显存,例如单张 H200,或两张 80GB 的 A100/H100;官方同时提供推理容器镜像。

为什么值得关注

对希望把模型放在自有环境里的机构而言,Kolibri 的卖点不在榜单第一,而在「每单位算力能换来多少可用能力」。厂商自报在 AIME 2025 取得 96.9%、HumanEval+ 92.7%、GPQA Diamond 84.3%、LiveCodeBench v6 85.9%,并称在数学、代码、接地与长上下文任务上可对标激活参数约为自身四倍的模型;在质量与服务成本的曲线上,Aleph Alpha 自称处于帕累托前沿。34.6 亿的激活规模也意味着推理成本相对可控,更适合在预算受限的本地环境长期运行。

不确定之处

上述基准均为厂商自评,尚无第三方复现;在工具调用与软件工程类任务上,公开对比显示它并非同类最强,例如 SWE-Bench Verified 为 66.4%,低于部分开源对手。官网没有公布托管 API 价格,企业部署需走销售渠道。此外,有研究者指出该模型在微调阶段使用了来自第三方中文模型的合成数据,与完全自主供应链的叙事存在张力。技术报告同期发布,但训练代码与方法保留在公司内部,仅开放权重与配置。

编辑说明

本文由北京拓实科技根据公开信息整理,核心事实与数据请以原始来源为准。