Snowflake Cortex AI Gateway 上线危险行为轨迹检测
Snowflake 在 Cortex AI Gateway 推出 Dangerous Activity Detection:不只看提示词,而是评估目标、计划、工具调用、结果与影响的完整 Agent 轨迹,并保留来源供审查。
企业把 Agent 接到工具与数据后,风险往往不在「用户说了什么」,而在它实际走完的整条轨迹——包括中途换工具、读到敏感表、或把结果外发到非预期渠道。仅靠提示词过滤,很难覆盖这类「过程风险」。Snowflake 为此在 Cortex AI Gateway 侧推出 Dangerous Activity Detection。
据官方账号 @Snowflake(约 2026-10-29)介绍,该能力会评估完整轨迹:目标、计划、工具调用、结果与效应,并保留 provenance 以便复盘;帖文强调最危险的行为未必出现在提示词里。配套说明指向产品介绍链接。对企业经营与平台治理团队,这更接近「Agent 运行时的策略网关」,可与现有身份、密钥最小化与人工复核流程串联,把高风险动作挡在网关层而不是事后追责。
原帖未给出检测规则集、误报率、支持的工具类型与定价;上线评估应关注:轨迹采样是否含敏感载荷、裁决是否可版本化策略、以及阻断/放行的审计接口是否可导出到现有 SIEM。配图含 Snowflake 品牌标识,正文未引用。建议先在只读分析 Agent 上试跑,再放开写库与外呼工具;同时明确「危险」标签的人工复核 SLA,避免网关误杀拖垮业务节奏。
Snowflake Dangerous Activity Detection for agent trajectories
The riskiest agent behavior may not appear in the prompt.
Dangerous Activity Detection in Cortex AI Gateway evaluates the full trajectory: objectives, plans, tool calls, results and effects, with provenance preserved for review.
See how it works: https://t.co/lvNPKo4t8G https://t.co/oOPfUPmOUy