理应资讯
软件研发智能化

Cloudflare:Workers AI 上 GLM 5.3 配置失配叠加 SGLang 缺陷,曾跨请求暴露 KV 缓存

理应编辑室 ·

Cloudflare 披露 Workers AI 上的 GLM 5.3 因上下文窗口与 KV 池容量配置失配,叠加 SGLang 在分离式 prefill/decode 下的缺陷,超长提示可能读到其他会话残留缓存;已下线、扩大池容量并修补引擎后恢复。

Cloudflare 官方发文并在博客详述:Workers AI 上的 GLM 5.3(Z.ai 文本模型)曾出现跨请求键值缓存暴露。安全研究员 Gadi Evron 于九月八日经 HackerOne 报告:向该模型发送很长的提示时,有时会返回属于其他用户会话的文本。Cloudflare 次日复现后,在宣布事故约 四十分钟内下线该模型,同日完成配置修正与推理引擎补丁后恢复服务。

根因被拆成两层。其一是配置失配:模型按约一百零四万八千五百七十六个标记上下文部署,但预填充图形处理器上的键值缓存池当时大约只够六十八万一千二百八十个标记;团队事先知道差额,却误以为引擎会对放不下的提示直接报错。其二是开源引擎 SGLang 在分离式预填充与解码下的缺陷:超长请求被内部标为拒绝并换成单标记占位后,仍可能走完传输流程,解码侧误以为缓存已被完整覆盖,于是在仍残留前序请求数据的页面上继续生成——因此超过上述池容量的提示,响应可能混入其他用户会话内容。

补救包括:把 GLM 5.3 的池配置调到接近 GLM 5.2 的做法,使预填充键值池约达两百零四万个标记(约两倍于上下文长度),让合法请求不再撞上拒绝路径;同时修补引擎,使带“待拒绝”状态的请求在准入队列阶段就以原错误退出,避免再做引导、分配或缓存传输,并向 SGLang 上游提交相关修复。对外服务恢复前,他们用研究员复现脚本与金丝雀标记做了验证。

若你在 Workers AI 上跑长上下文或智能体编码工作流,应核对当前模型是否已恢复、关注官方状态页,并对跨租户隔离与超长提示做回归;具体时间线与技术细节以 Cloudflare 博客为准。

# Cloudflare# Workers AI# GLM 5.3# SGLang# 安全