返回行业动态
企业AI落地

Anthropic 向 METR 开放员工级内部权限:第三方风险评估可免否决发布

Anthropic 于 10 月 15 日公告,已开始向非营利评估机构 METR 的一个团队开放「员工级」访问权限:六名 METR 人员获得公司硬件、办公场地以及与 Anthropic 自有风险评估团队大体同级的内部工具与系统权限,客户数据、律师保密信息与模型架构信息除外。METR 将自行发表对该公司风险水平、事故与安全实践的评估,Anthropic 无权否决,只能在预先设定的窄类别内要求删改,且 METR 可公开说明删改是否合理。公司同时公布三级评估者权限框架,SecureBio 处第一级,埃森哲与 Hugging Face 等仍在早期对接。

来源:Anthropic 官方公告:An update on independent evaluators原标题:An update on independent evaluators查看原文
深色数据中心冷通道走廊,两侧无标签网孔机柜仅有青绿与琥珀指示灯;画面中央是多层发光薄板堆叠而成的垂直层级塔,塔前一位虚化人影正走向中部发光门洞,塔顶一道白色数据流向右上方逸散为粒子,周围环绕同心光环,抛光地面映出倒影

图片来源:北京拓实科技原创(AI 生成封面)

发生了什么

Anthropic 于 10 月 15 日发布公告,宣布已开始向独立评估机构 METR(Model Evaluation and Threat Research,一家评估前沿 AI 模型的非营利组织)的一个团队开放「员工级」访问权限。这是该公司上月公开承诺加强模型与安全实践的第三方独立评估之后落地的第一步。公告同时披露,Anthropic 正与生物安全非营利机构 SecureBio、埃森哲(Accenture)开展评估合作,并与包括 Hugging Face 在内的多家机构处在早期接触阶段。过去一年,METR 已多次参与对该公司的风险报告复核。

据路透社 10 月 15 日报道,METR 本周三公开主张前沿开发者应允许评估方与员工私下访谈、及时发表评估结论,并披露访问限制与删改情况。同一报道指出,此前两家前沿实验室都曾寻求对外部评审可发布的内容施加较大控制,理由是担心结论外泄商业秘密,而近期 Anthropic 在相关谈判中的开放程度有所提升。评估方与实验室之间的关键分歧在于:企业视为核心知识产权的信息,往往同时是判断模型风险所必需的材料。

  • 人员与设备:已完成 6 名 METR 员工的入职流程,提供公司硬件与办公场地
  • 系统权限:可访问的内部工具与系统,与 Anthropic 自有风险评估团队的权限大体同级
  • 信息共享:除少量明确划定的类别外,公司员工被鼓励像对待从事对齐风险工作的同事一样向其共享信息
  • 排除范围:客户数据、受律师与当事人保密特权保护的信息,以及模型架构相关信息
  • 隔离要求:仅该小组在可执行协议下参与,METR 其他员工(包括与 Anthropic 合作其他项目的研究人员)与该小组的工作相互隔离

发表权是这次变化的核心

公告中约束力最强的部分落在发表权上。METR 将自行发表对 Anthropic 风险水平、事故与安全实践的评估分析,Anthropic 无权否决发表;公司只能在信息落入预先设定的窄类别时要求删改,而 METR 可以公开说明这些删改是否合理,只要不披露被删改的内容本身。Anthropic 把这一安排类比为银行监管中的常驻检查员制度:银行比外部更了解自身风险头寸,监管机构因此向大型银行派驻常驻审查人员,以便在风险可能波及公众之前提前发现。这一结构直接回应了外界对「评估方由被评估方挑选与出资、独立性难以保证」的质疑。

三级评估者权限框架

  • 第一级:评估方开展范围狭窄的专项风险调查,访问范围由 Anthropic 决定,发表结论须经公司批准;SecureBio 目前处在该级,正在审查公司 8 月风险报告的化学与生物武器章节
  • 第二级:访问信息更多,可在无需公司批准的情况下发表,公司仍可要求删除特定类别信息,评估方可公开质疑删改是否合理
  • 第三级:即与 METR 的安排,在员工级访问权限之上叠加第二级的发表权
  • 公司目标:希望未来有多家评估机构进入第三级,各自发表对其风险态势与关键决策的分析

三级的差别主要不在「能看到多少」,而在「能说多少」。第一级虽有访问权限,但发表须经公司批准,其结论对企业读者的可用性取决于厂商是否放行;第三级则在访问与发表两端同时放宽。公告表示,公司希望把更多评估机构逐步推上第三级,届时同一家实验室会出现多份彼此独立、口径可能不一致的风险分析。

对企业读者的意义

这套安排的直接含义是,企业采购与合规团队将面对一类新的第三方材料:由评估机构而非厂商发布的模型风险评估。这类报告的结论可独立于厂商口径,且厂商无权阻止其发布。可比的先例是财务审计与银行监管检查——外部结论一旦能独立发布,供应商自述材料就不再是唯一信息源。

落到操作层面,采购与风险团队需要建立对第三方评估结果的跟踪机制:一旦某份已发布评估改变了对在用模型风险画像的判断,应能按预先定义的路径决定升级、重新分类或暂停使用。在供应商尽调环节,也可以直接要求模型厂商说明其接受的是哪一级评估、评估方是否有权独立发表结论。需要注意的是,此类独立评估目前仍完全来自厂商的自愿安排,尚无监管层面的强制要求。

不确定之处

  • 独立性仍有结构性争议:评估方由被评估方选择与接待,公告未披露 METR 本次工作是否涉及资金安排,公司仅表示正在摸索「何种合作方式可行」
  • 删改权的实际边界不可验证:类别被描述为「窄且预先设定」,但完整清单未公布,公司也未说明历史上是否收到过删改请求
  • 发表节奏未定:METR 尚未公布首份评估的时间表与颗粒度;该机构此前公开主张开发者应允许与其员工私下访谈、及时发表评估并披露访问限制与删改情况
  • 与内部决策的接口缺失:公告未说明若 METR 得出不利结论,是否存在触发内部复核、影响模型发布或对外通报的既定流程
  • 单点覆盖:该安排目前仅适用于 Anthropic 一家,其他前沿实验室尚未公布可比权限与发表权条款
编辑说明

本文由北京拓实科技根据公开信息整理,核心事实与数据请以原始来源为准。