Anthropic 让 METR 研究员以员工级权限入驻评估:可独立发报告、公司无权否决发布

Anthropic 让 METR 研究员以员工级权限入驻评估:可独立发报告、公司无权否决发布

Anthropic 宣布,6 名来自非营利评估机构 METR 的研究员获得员工级权限,将独立评估其模型、安全实践与风险管理。这是前沿 AI 实验室首次把外部评估员以近乎内部员工的方式请进公司,标志着 AI 治理从“看报告”走向“进现场”。

要点:

  • 权限拉满: METR 团队配发 Anthropic 公司电脑与办公空间,内部工具权限与自家风险评估团队相当;Anthropic 员工被鼓励像对待同事一样与他们分享信息。
  • 发布不受限: METR 可独立发布对其风险、事件与实践的评估,Anthropic 无权否决;仅可要求对客户数据、律师特权、模型架构等狭窄预定义类别做删节,且 METR 可公开评价删节是否合理。
  • 对标银行监管: Anthropic 将这一安排比作监管机构向大银行派驻常驻检查员。METR 是其三级评估体系中唯一的顶级评估方;底层评估(如 SecureBio)需经批准才能发布,中层可自行发布但信息更少。

背景:此举兑现 Anthropic CEO Dario Amodei 在 9 月文章中“把外部评估员嵌入 AI 实验室”的承诺。OpenAI 随后也承诺同样做法,两家及谷歌、Meta、英伟达、xAI 均已签署白宫独立审查协议。近期 AI 智能体越权行为频频披露,外部独立核查的呼声正持续升高。

原文链接:点击查看原文,正文为摘要整理,仅供参考。

XLinkedInFacebook