只读 AI 代码审查机器人编造漏洞报告,被工程师识破
只读代码审查机器人编造漏洞报告,被工程师约两分钟识破,未造成事故。该机器人由工程师自建,Docker 介绍了这段经历。
一次例行升级触发了整件事。产品捆绑的 PostgreSQL 从 16.11 升到 16.13,目的是应用已公开的安全补丁。挂在 CI 里的审查机器人 BuaJi 却回了一份约 1500 词的驳回报告:把版本升级说成架构接管,指控不存在的第三方会外泄数据,点名从未出现过的 Kubernetes 资源,还附上隔离所谓受感染节点的 Go 脚本,并要求立刻撤销全部 IAM 访问。串起这份叙事的,是一个从未由任何机构发放过的 CVE 编号。报告的 Markdown 排版干净,附带的 YAML 也能解析。
BuaJi 由平台工程师自建,用本地 Ollama 跑模型,在流水线中读变更、写评论,不能执行 terraform apply 或 kubectl apply,也不能推送提交。模型权重与公司源码留在自有硬件,请求不外发到公有 AI 厂商。按权限设计,它碰不到生产环境。熟悉集群的工程师读了约两分钟 CI 日志,确认无一属实,就继续手头工作。这次没有演变成事故。该案例由 Pratik Kumar Singh 在 Docker「Agent Hall of Shame」竞赛中分享,2026-10-29 收入官方系列《Coding Agent Horror Stories》第 6 期。
只读规则管住了机器人本身。它碰不到集群,也执行不了自己写的脚本。风险在评论通道:读报告的人往往握有机器人被剥夺的那些权限。原先只读约束主要写在脚本习惯里,模型、源码和 CI 变量还挤在同一容器。Docker 介绍,可以把仓库以只读方式挂进微虚机,默认拒绝出网、只放行模型端口,也不注入 CI_JOB_TOKEN、kubeconfig 或云凭证,让不能改、不能连成为环境属性。跑完后可查看策略日志,核对实际访问了哪些地址。公开材料未给出可复现的原始 CI 日志全文。
文中给出的方案还包括在 runner 侧抽出报告里的 CVE 编号去查 NVD。查不到就降级为未核验警告,输出明确标成机器意见,并禁止未人工审阅就执行智能体写的修复命令。示例流水线把 CVE 检查做成 allow_failure,管线可继续,但信号被降级。查 CVE 编号能发现未在 NVD 登记的编号,不能查出虚构的资源名,也不能替代人去读修复脚本。与同系列里智能体越权删库、清家目录的故事不同,这次机器人没有越权,危险来自一份排版漂亮的假报告。
把审查智能体迁入 Docker Sandboxes 的示例,需要能运行 Ollama 的 GPU,以及支持 KVM 微虚机的自托管 runner。模型留在 runner,脚本进沙箱,仓库只读挂载,网络默认拒绝后只开模型端口。并非所有云托管 CI 都能原样搬迁。