知一知 · 今日
← 返回本期日报

AI 前沿

Anthropic称可能很快达到递归自我改进门槛

本期日期 2026-11-03 · 08:00 北京时间

Anthropic在修订后的S-1A风险披露中表示,公司已用AI辅助研发新模型,并可能很快达到其负责任扩展政策所定义的、由AI带来显著加速进展的递归自我改进门槛。现有模型尚未越线,公司承诺继续保留有意义的人类监督。

TechCrunch Business称,Anthropic在周一提交的修订版S-1A文件中,除披露收入和支出均快速增长外,还在风险因素部分加入关于递归自我改进(RSI)的警示。RSI通常指AI足够擅长训练自身,从而引发能力急剧加速。

Anthropic在文件中说,公司越来越多地使用AI系统加速研发,这可能使模型能力推进速度快于安全、对齐和安保措施的开发、验证与部署速度;公司过去曾在能力跃升发生后才识别出来,未来也可能如此。

文件同时称,依据对未来模型的内部估计和预期,Anthropic可能很快达到其负责任扩展政策中“由AI带来显著加速进展”的定义。但公司强调,目前没有任何现有模型被认定越过该门槛,仍在评估底层数据。

Anthropic还表示,在可预见未来不会让Claude在缺少有意义的人类监督或理解的情况下,完全自主设计和构建后续前沿模型,并正考虑更新政策,使人类继续掌控前沿模型开发。报道也提到,怀疑者可能认为S-1兼具披露与营销功能。

原文来源

TechCrunch Business ↗
返回本期日报打开交互阅读页