AI 前沿
谷歌提出睡眠框架,帮助大模型持续学习并巩固长期记忆
谷歌研究者提出面向大语言模型的“睡眠”持续学习框架。模型在主动交互之外进入离线睡眠阶段,通过记忆巩固和“做梦”式自我改进,把短期上下文转化为稳定参数,号称可保留最长1000万token的长上下文知识,同时缓解灾难性遗忘。
据Google Research文章,现有大语言模型部署后通常受固定知识截止日期限制;直接持续更新参数又容易造成灾难性遗忘,即学习新任务后严重损害旧任务表现,而单纯依赖上下文学习只能在当前会话中保留信息。
新框架借鉴人脑在休息时稳定记忆的机制,但完全运行在固定模型架构和人工设定的训练规则内。模型分为主动交互与离线巩固两个阶段:在睡眠阶段,系统打开预先分配的Mixture-of-Experts记忆模块,并利用自生成练习样本更新数值权重,从而吸收新事实、提升推理准确性,同时不改变核心代码库和整体设计。
技术过程包括记忆巩固和做梦两部分。前者类似NREM慢波睡眠中的抽象与蒸馏,把脆弱的短期轨迹压缩为长期参数,而非逐条复制;后者模拟REM睡眠中的场景生成和语义连接,执行自主自我改进循环。谷歌研究者称,交替进行交互和离线巩固后,模型可持续获取新事实、保留长达10M token的长上下文知识并改善复杂推理。文章还提出理论解释,将知识播种视为结构化低秩压缩问题,以说明该框架为何不必以牺牲旧能力为代价学习新知识。