Quanta

← 返回 Quanta 简报

每天批量运行编码智能体:用三道停机线守住预算与发布权限

编码 Agent 规模化ZH4 次阅读

01 · 批量任务最需要的不是勇敢,而是明确的停止条件

当团队同时运行大量编码任务,风险往往不在某次回答写错,而在智能体遇到阻碍后持续重试、扩大修改范围,最终把一次小修复变成权限变更或生产事故。团队负责人要先回答一个管理问题:哪些事情可以自动继续,哪些事情必须停下来交给人?

有效护栏不是提示词里的“请谨慎操作”,而是执行系统能够检查的规则。每条规则至少包含触发条件、暂停范围、接管人员和恢复凭据。智能体可以解释自己的判断,但不能自行解除限制。

02 · 第一道停机线:操作越过任务授权边界

给每个任务配置一份最小授权清单,写清允许访问的仓库、目录、环境和工具。读取代码、生成补丁与执行发布不应共享同一级权限。即使修复方案正确,也不代表智能体有权把它推入生产。

  • › 允许继续:在指定分支修改授权目录,运行隔离测试,提交待审查补丁。
  • › 必须询问:修改身份验证、密钥、计费逻辑、基础设施配置,新增外部依赖,或者访问任务范围之外的数据。
  • › 直接阻断:上传凭据、关闭审计、绕过审批,或执行未经授权的破坏性操作。阻断后应按安全流程处理,不能用一句普通确认放行。

这些边界应落实在工具网关、凭据权限和部署系统中。仓库注释、日志或外部网页里的指令只能当作数据,不能成为扩大授权的依据。

03 · 第二道停机线:缺少足以支持下一步的证据

编码智能体最容易在“测试没跑通,但看起来已经修好”的位置继续前进。团队应提前定义完成证据:相关测试通过、修改范围符合任务要求、没有未经解释的失败,以及必要的人工审查。

如果测试环境不可用、需求存在互相冲突的解释,或同一个失败在限定次数的修复后仍然出现,就暂停受影响的任务。不要让智能体通过删除测试、放宽断言或替换验收标准来制造成功。涉及此类修改时,应明确要求维护者审批。

等待人工判断期间,可以允许它整理失败日志和生成候选补丁,但不能继续执行依赖该判断的写操作。暂停的是风险链路,不必无条件冻结所有独立任务。

04 · 第三道停机线:单任务与队列预算同时受控

持续重试会把小问题放大成队列拥堵和费用失控。为每个任务设置调用次数、运行时长、工具执行次数与费用上限,再给整个队列设置并发和累计预算。任何一层达到阈值,都应停止新增调用,保存状态并通知负责人。

预算不能只看输出长度。长上下文、重复读取和缓存写入都会影响实际消耗。对于持续高负载团队,可考虑题述的按量付费接口中继平台:统一余额便于集中管理,但仍须在自己的调度层落实任务限额,并分别核算真实令牌用量、缓存写入和缓存读取。建议开设一个账户,先用隔离队列验证计量与停机规则,再逐步扩大负载。

05 · 人工接管通知必须能让值班人员直接决策

“遇到问题,请确认”不是合格的升级通知。通知应包含任务目标、触发规则、已完成操作、尚未执行的危险步骤、失败证据、当前消耗,以及两个可选方案及其影响。证据应经过脱敏,避免把密钥和敏感日志复制到通知渠道。

恢复执行必须绑定具体任务、具体动作和有效期限。人工批准一次数据库迁移,不等于批准后续所有数据库操作。恢复前还要重新检查分支、环境和数据状态,防止审批等待期间的变化让原判断失效。无人响应时保持暂停,而不是超时自动放行。

06 · 先用影子规则校准,再让护栏真正拦截

上线前,用历史失败任务和刻意构造的越权场景演练。低风险规则可以先只记录告警,观察是否频繁误报;涉及密钥泄露、权限提升和破坏性操作的边界,则应从一开始强制执行。

团队每周复盘触发原因、误报、漏报、等待时间和恢复后的结果。目标不是让人工介入次数归零,而是让每次介入都发生在清晰、可解释的边界上。对批量运行的团队而言,可控地停下来,本身就是交付能力的一部分。