Sentry 先筛错误报告里的提示注入:日花约 263 美元用 Jev 查千万级事件
Cloudflare 开发者频道转述:Sentry 在编码代理读取错误报告前先筛提示注入,目前日均约 263 美元用 Jev 检查约千万事件,并自研分类器目标降到约一成成本。
Cloudflare 开发者账号转述一项工程实践:编码代理读取的下一份「提示注入」可能来自错误报告本身,因此 Sentry 会先筛查。材料称团队目前每天花费约 263 美元,用 Jev 检查约 1000 万条事件;同时在测试自研分类器,目标是在接近 Jev 准确率的前提下把成本降到约 10%。相关说明由 @grichadev 撰文介绍。
对软件研发智能化,这提醒「工具输出」也是不可信输入:崩溃栈、用户留言、第三方插件文本都可能诱导代理执行危险操作。数字来自转述文章中的工程账本,实施时应以原文与自身流量测算为准;自研分类器上线前需看漏报对代理权限的影响。
可借鉴的流程是:代理默认只读已经过分级的事件摘要,高风险原文需额外授权。若使用外部评审模型,还要评估事件内容出域与留存策略,避免把客户数据送到不合适的处理链路。
平台安全组可把「事件文本不可信」写进编码代理的系统规则,并要求工具输出先过分类器。自研分类器未达标前,宁可多花评审费用,也不要让代理直接消化原始用户崩溃描述。
Sentry screens error reports for prompt injection before agents read them
The next prompt injection your coding agent reads might be an error report.
So Sentry screens for it first, spending $263 a day on Jev to check 10M events. Now the team is testing its own classifier, aiming to match Jev's accuracy for 90% less. @grichadev explains how. https://t.co/UTkEe2tiQD