理应资讯
软件研发智能化

Cloudflare Auto Router 公测:按利害与复杂度为每次请求选模型

理应编辑室 ·

Cloudflare AI Gateway 公测 Auto Router:边缘分类请求的任务类型与利害等维度后选模,并公布相对强模型约低 10 分、花费约三分之一的自测结果。

Cloudflare 在 AI Gateway 公测上线 Auto Router:把模型设为 cloudflare/auto 后,网关先按格式、凭证、账单与限额筛候选池,再在边缘 GPU 上跑多头分类,给请求打 14 类任务概率,并在复杂度、歧义、利害(stakes)、对前文依赖四个维度打 1–5 分,最后用「期望质量减去自适应成本惩罚」选模。

分类主要看最近若干轮、文本上限约 8 KiB。响应头会带回路由模型与理由字段,也可用允许列表限制池子。Cloudflare 自报基准:在 97 个任务上,相对 Claude Opus 5.5 成功率约低 10 个百分点,花费约为其三分之一。实务反馈则提醒:长会话里早期声明的高风险(如退款)若被后来一句「继续」冲淡,短窗口分类可能低估利害;无会话标识时同会话可能落到不同模型并打掉提示缓存。公测期路由本身免费,后续计价未定;WebSocket 暂不支持。另有路线图项 cloudflare/auto-best,同一分类器但只追最高期望质量。

综合来看,读者可先核验官方渠道与发布时间,再结合自身业务边界与合规要求决定是否跟进试点;本文仅整理公开信息,不构成采购、投资或法律建议,关键数字与能力边界请以一手文档为准。

# Cloudflare# AI Gateway# 模型路由# Auto Router# 成本