Hugging Face 开源 safeagents:本地代理拦截编码智能体危险工具调用
转述称 Hugging Face 开源 Apache-2.0 本地代理 safeagents:插在编码智能体与模型服务之间,工具调用执行前先检查,拦截则改为文本提示;兼容 OpenAI Chat Completions 与 Anthropic Messages。
编码智能体一旦拿到 shell 与网络,模型「自己发明」的外连 URL 就可能变成真实攻击面。转述帖称 Hugging Face 开源了 safeagents(Apache-2.0):一个跑在本机的轻量代理,夹在编码智能体挽具与模型服务之间,在挽具执行前检查每一次工具调用;被拦截的调用会变成文本提示,而不是静默执行。
用法上,把智能体的 base URL 指到代理(示例默认 127.0.0.1:8787),上游仍是你原有的模型服务。支持 OpenAI Chat Completions 与 Anthropic Messages(含流式)。公开说明列出多层检查:工具是否在请求中声明、参数里的主机是否曾出现在对话上下文、以及基于 atif-scan 的确定性检测等;可选再接裁判模型。建议先用 --log-only 观察,再用 --allow-host 放行信任主机后切到拦截模式。仓库提供多挽具接入指南(帖中举例 Claude Code、OpenCode 等)。本稿依据窗内转述与公开技术摘要交叉,版本与检测覆盖面以 github.com/huggingface/safeagents 为准。
对软件研发智能化,这把安全策略从「信任模型推理」前移到「工具调用门禁」,适合本地/内网代理评测链。早期项目需注意误报与尚未覆盖的 API 形态(如部分 Responses API)。
对读者而言,可把本稿当作窗内动态的结构化摘要:能力边界以仓库 README 为准,未声称已通过独立安全审计。
Hugging Face open-sources safeagents
Hugging Face just open-sourced safeagents — a local proxy that sits between your coding agent and the model server
Every tool call gets checked BEFORE the harness runs it. Blocked calls become a text notice instead of silent execution.
Works with any harness that lets you set a base URL (Claude Code, OpenCode…). OpenAI Chat Completions + Anthropic Messages.
Start safe: safeagents start https://t.co/OG5WtWXZGZ --log-only
Then: ANTHROPIC_BASE_URL=http://127.0.0.1:8787 claude
Apache-2.0.