知一知 · 今日
← 返回本期日报

AI 前沿

Cloudflare披露GLM-5.3模型跨请求KV缓存泄露事件

本期日期 2026-10-27 · 08:00 北京时间

Cloudflare称,Workers AI上的GLM-5.3模型在2026年8月27日至9月9日间发生租户隔离问题,155条响应包含其他客户请求数据,均涉及超过681280个token的长提示。问题已修复,未发现其他模型受影响或有人故意利用。

Cloudflare在协调披露报告中称,2026年9月8日,安全研究员Gadi Evron通过HackerOne报告Workers AI模型@cf/zai-org/glm-5.3存在租户隔离问题。该问题从8月27日开始影响服务,Cloudflare次日复现并将模型下线,随后部署修正配置和修补后的推理引擎,9月9日恢复模型。公司确认Workers AI托管的其他模型未受影响。

受影响期间,少量使用GLM-5.3的客户收到的响应包含其他客户不久前向同一模型发出的请求数据。Cloudflare称共有155条响应受影响,且全部对应长度超过681280个token的提示。排除自身测试和研究人员测试后,公司识别出的请求在时间和数量上符合普通长上下文使用,没有发现有人反复利用该漏洞,也没有发现故意利用的证据。

Cloudflare将问题归因于两个重叠因素。其一是开源推理引擎SGLang配置错误:GLM-5.3部署时设置了1048576个token的上下文窗口,但预填充GPU上的KV缓存池只能容纳681280个token。Cloudflare事前知道这一不匹配,但原以为引擎会对无法处理的提示返回错误,而长上下文测试又成功返回,因此未认为存在问题。

其二是SGLang在分离式预填充和解码模式下处理超长请求的缺陷。超出缓存池的提示在内部被标记为拒绝并替换成单token占位符,但系统没有中止请求并向客户端返回错误;预填充节点为占位符生成KV缓存并传给解码节点。解码节点收到“传输完成”消息后,误以为旧缓存已被完整提示覆盖,实际上大部分旧状态仍保留,于是在生成响应时注意到含有其他用户数据的陈旧缓存页。

Cloudflare称报告与SGLang相关文章同步发布,内容说明漏洞、响应时间线以及对生产环境SGLang部署进行的加固,也介绍其与SGLang上游维护者继续处理此类缺陷的工作。

原文来源

Hacker News ↗
返回本期日报打开交互阅读页