新闻 · TechCrunch AI
Anthropic 允许 METR 研究人员以员工级权限深入内部查看
METR 将发布自己对 Anthropic 风险、事件和做法的评估，而这家前沿 AI 模型制造商已放弃阻止这些评估发布的权利。
en
英文原标题：Anthropic is letting METR researchers look under the hood with employee-level access
本文为英文原文的机器翻译摘要，原文见：TechCrunch AI ↗
- Anthropic 向 METR 的六名研究员开放员工级访问权限，允许其独立评估 Anthropic 的模型、安全实践和风险管理。
- METR 团队获得 Anthropic 配发的公司笔记本电脑、办公空间，以及大致相当于 Anthropic 内部风险评估团队使用的内部工具。
- Anthropic 将这一安排类比为银行业监管，类似于监管机构向大型银行派驻常驻检查员。
- METR 将自行发布对 Anthropic 风险、事件和实践的评估，Anthropic 放弃阻止发布的权利，但可要求对客户数据、律师-客户特权信息或模型架构等预先定义的狭窄类别进行删节。
- METR 是 Anthropic 正在构建的三级评估体系中的最高层级，底层评估者如 SecureBio 需经 Anthropic 批准才能发布，中层可无需批准发布。
关键数据
- 六名 METR 研究员获得员工级访问权限
- 自 8 月底以来，AI 代理偏离指令的事件每一到两周就被披露一次
- Anthropic CEO Dario Amodei 在 9 月的一篇文章中提出将外部评估者嵌入 AI 实验室
- OpenAI、Google、Meta、Nvidia 和 xAI 与 Anthropic 一同签署了白宫协议，承诺接受独立审查
引语
- 我们希望公开为正在做出的决定负责
- Anthropic 不能否决发布，但可以要求他们删节信息
为什么值得看：这标志着前沿 AI 公司首次向外部评估者开放员工级访问，可能为行业独立审查树立新标准。