AI 前沿
Anthropic 研究:小模型正接近在普通智能设备上自我复制
Anthropic 在受控实验中发现,9B 模型可在 9 类硬件中的 8 类上建立推理环境。更强模型能完成简化复制链;论文明确表示,尚未得到一个完全失控的自我复制系统。
Anthropic 于 10 月 12 日发布一项关于 AI 自主复制的研究,考察模型是否能在不熟悉的设备上建立推理环境,并接续完成复制步骤。研究中的 9B 小模型在九类硬件中的八类上成功建立推理服务;团队还用十五台低价电视盒子共同运行一个较大的模型,证明普通设备也能承担部分推理工作。
实验要区分两件事:一是让模型在设备上运行,二是让整个系统独立完成连续传播。能够部署推理服务,并不自动等于已经具备完整的自主复制能力。论文强调,小模型能完成不少单项步骤,但把这些步骤稳定串联起来仍会出错。
复制测试在隔离环境中进行,进入目标设备的环节被刻意简化。较强模型负责完成操作,而目标设备上部署的是指定的小模型,部分推理计算由另外的服务器承担。这样的设计用于测量能力边界,论文也承认它给出的真实攻击成功率估计偏向上限。
作者据既有能力进步趋势,估计小模型可能在未来几个月跨过相关门槛,但明确将这部分列为预测。报告并未宣称已发现一个在现实互联网中失控传播的完整系统。阅读这条新闻时,最需要保留的是实验结果与预测的区别,以及隔离测试和现实设备防护条件的差异。