AI 前沿
Anthropic向METR开放员工级访问以独立评估AI风险
Anthropic宣布向非营利前沿模型评估机构METR的六名研究人员提供员工级访问,用于独立评估其模型、安全实践和风险管理,METR可自行发布评估。
据TechCrunch报道,METR团队将获得Anthropic配发的公司笔记本、办公空间和内部工具,访问水平大致与Anthropic自身风险评估团队相当。Anthropic称,员工可像与从事对齐风险的同事一样,同METR研究人员共享信息。
Anthropic把这种安排类比为监管机构派驻大型银行的常驻检查员,目的是缩小外部评估者与前沿AI公司对系统理解之间的差距。METR将发布关于Anthropic风险、事件和实践的评估,Anthropic表示无权否决发表。
材料显示,Anthropic只能要求METR按预先界定的狭窄类别隐去客户数据、律师客户特权信息或模型架构相关信息;METR可公开说明其对删减是否合理的判断。该安排也是Anthropic三层外部评估体系的最高层,METR是目前唯一处于顶层的评估方。