AI 前沿
METR报告称AI显著加快Anthropic研发
AI安全研究组织METR对Anthropic开展11周调查后称,AI正显著加速其模型研发,过去一年约相当于完成两年历史进展,且主要贡献并非单纯增加算力。报告同时因大量内容被删节而引发研究人员担忧。
METR于周四发布报告,评估Anthropic的AI研发情况。调查历时11周,不同于该公司在夏季黑客事件后向安全研究人员提供类似员工权限的系统访问项目。报告称,Anthropic模型基准成绩显示,其过去一年约取得历史上两年的进步,改进速度约为一年前的两倍。
METR研究人员表示,他们确信这种加速并非只来自训练算力扩张。截至10月,大部分加速归因于AI,而且AI贡献仍在增长。相关依据包括对Anthropic员工的访谈和非正式Slack调查;员工自称使用公司最强内部模型后,平均工作效率约为无AI辅助时的12倍,较数月前使用Mythos 5时的自评结果约翻倍。
报告指出,目前加速主要来自AI辅助人类研究员,而非AI完全独立工作,但已有迹象表明自主贡献可能很快占据更大角色,且未发现明确的收益递减或可阻止进一步加速的瓶颈。报告还提到,Anthropic内部使用三款尚未公开的新模型。由于协议允许Anthropic删节最终报告,且其似乎大量使用该权限,外界对前沿AI进展速度和风险的知情程度也受到质疑。