当 AI 不再问你「要不要执行」:企业级 Agent 的写入安全设计
定时任务和 IM 渠道是 Agent 落地最快的两个入口,也是最危险的两个:没有人坐在屏幕前点「确认」。BizBuddy 的做法是给无人值守链路装四道闸门:工具分级、权限判定顺序、代码级强制拒绝、失败收尾。这篇文章讲清每一道闸门解决的问题,以及为什么「把写工具配成拒绝」这种配置纪律,在真实系统里根本不够。
Agent 写操作的常规护栏是人工确认:模型发起调用,前端弹出确认卡,用户点确认才执行。这套机制在对话页很好用,一旦 Agent 被定时任务或群聊消息触发,确认卡没有人点——链路会一直挂着,直到超时。问题的本质不是「怎么确认」,而是「无人确认时,什么还能执行」。
一、第一道闸门:先给工具分级
所有讨论的前提是:平台知道哪些工具会写。BizBuddy 在工具注册表里用一个字段回答这件事:tool_type。
tool_type | 含义 | 无人值守 |
|---|---|---|
'0' | 只读(查询、检索、读取配置) | 允许 |
'1' | 写入(发公告、改部门、加用户) | 拒绝 |
| 空 / 未知 | 无法判断 | 按写入处理 |
第三行是设计要点。空值不按「只读」放行,而是按写入拒绝——多拒绝一个只读工具的代价是「没查到」,多放行一个写工具的代价是「线上多了一条错误数据」。这个取舍在无人值守场景没有讨论空间。
于是第一道闸门产出一个集合:全部写工具编码。它来自数据库,不是来自某个页面上的勾选,所以不会因为某个智能体漏配而消失。
二、第二道闸门:权限判定顺序
平台有三档权限:allow(直接执行)、ask(需要确认)、deny(拒绝)。它们不是并列的,框架的判定顺序是固定的:
deny > ask > 工具自检 > allow
也就是说,只要命中 deny,后面几档全部不参与;ask 优先于工具自己的校验;只有都没命中,才看 allow。这条顺序解释了为什么「先把全局模式调成 DONT_ASK」并不安全:
DONT_ASK 的语义只是「未命中任何显式规则时,不要弹确认」,它不会改写已有的 ask 规则。如果智能体定义里把某个写工具配成了 ask,这条 ask 仍然生效——而无人的链路上没人能应答,最终表现为一次悬挂的确认请求,而不是一次干净的拒绝。
所以第二道闸门不是「换个模式」,而是「改写规则」:在装配无人值守的权限上下文时,把继承来的 ask 规则统一改写成 deny。
三、第三道闸门:代码级强制,而不是配置纪律
到这一步,大多数平台就停下了:让管理员在智能体或场景包里把写工具配成拒绝,靠配置约束。这在多租户、多页面、多入口的系统里靠不住:
- 智能体可以复制、场景包可以导入,一次误操作就把写工具放开了;
- 新增一个入口时,很容易忘记再配一遍;
- 配置只在某个页面生效,无法证明「所有无人值守链路都拒绝了」。
BizBuddy 把这道闸门放在了代码里:无人值守执行前,按 tool_type 取写工具全集,逐条追加 deny 规则;只对配置里显式列出的白名单编码保留放行。白名单默认是空的,也就是说默认姿态是全部拒绝,放行需要额外动作。
白名单本身也有约束:
- 放在安全配置里,可在运行期修改,下一轮即生效,不用重启;
- 与显式 deny 冲突时,仍以 deny 为准——放行是「允许」,不是「强制」;
- 只适合放幂等或可补偿的写工具,比如「写一条带唯一键的审计记录」,而不是「发公告」。
专家链路同一口径:只要处于无人值守,或该专家的写工具开关没开,就套用同一套拒绝规则。没有「专家走另一条路、绕开检查」的缝隙。
四、第四道闸门:把「没确认」当成失败
前 三道闸门挡的是「不该执行」,第四道挡的是「执行到一半卡住」。
无人值守链路如果仍然出现待确认暂停(例如某个规则被运行期配置改回了 ask),平台的处理是按失败收尾,写一条明确的失败原因,绝不让任务挂在「进行中」等一个人永远不会来的确认。可视性也要跟上:谁在什么时候尝试了什么工具、被哪条规则拒绝,都要落进工具调用日志,便于事后核对。
这条在真实系统里比想象中重要:悬挂的任务比失败的任务难查得多——失败有原因,悬挂只有「还没结束」。
五、三个真实踩过的坑
① 只改权限模式,不改规则。 前面说过,DONT_ASK 不触碰显式 ask,结果是确认请求悬挂。正确做法是在权限槽位里把 ask 改写成 deny。
② 白名单对渠道同样生效。 白名单是全局的,定时任务和 IM 渠道共用一份。渠道入站是外部不可信输入,一旦有人把写工具加进白名单,外部消息就能直接触发写操作。结论很直接:渠道来源应永久保持空白名单;确需让渠道执行写操作,应改为受控工具,而不是放宽白名单。
③ 模型先拒答,测试却要求「必须有工具调用」。 系统提示词要求无人值守场景说明「不允许自动写入」,模型照做时根本不会发起调用。早期的端到端用例断言「必须出现一条被拒绝的工具记录」,于是频繁误报。修正后的口径是:断言结果,不断言路径——没有调用且明确拒答,与调用被拒绝,对「不会写入」的结论等价;有调用时仍必须是被拒绝状态。
还有一个已知空白要如实说:MCP 工具没有 tool_type 标记,无人值守默认也不接入 MCP 工具,但若显式选了带 MCP 工具的包,平台无法用同一套字段判定写工具。这一项目前靠「不接」来保证安全,而不是靠「识别」。
六、怎么验证
三组脚本对着运行中的栈发真实请求:
- 写工具确认闭环:拒绝时不产生副作用,恢复段可继续;
- 白名单接口契约:候选列表只含写工具,只读工具与未登记编码被拒绝,写入后即时生效;
- 渠道端到端:验签失败不落库、未映射身份中文拒绝、会话来源正确、出站真实送达,以及写工具默认被拒绝;白名单放行后再跑一次,确认放行是否真的生效。
最后一组最有价值:它证明的不是「配置看起来对」,而是「外部消息真的进不来写操作」。
七、开源
BizBuddy 托管在 Gitee,代码与文档同步开源,同一套代码并列支持 PostgreSQL 与 MySQL 两套部署形态,上述脚本随仓库提供,可在自己的环境复跑。
仓库地址:https://gitee.com/zl3624/biz-buddy
无人值守的安全,不是把确认框藏起来,而是回答一个更硬的问题:没有人确认的时候,这个系统还允许发生什么。