Quanta

← 返回 Quanta 简报

高负载团队的三套密钥:让开发试错不再动用生产权限

平台工程ZH6 次阅读

01 · 共享余额,不等于共享生产密钥

持续运行批处理、编码助手和线上推理服务的团队,往往从一把密钥开始。方便很快变成隐患:开发脚本失控,可能挤占线上预算;测试日志泄密,也可能迫使生产紧急换钥。

开发、预发布和生产应使用不同密钥。隔离的目标不是多保管两串字符,而是让权限、用量归属和撤销操作都有明确边界。团队负责人首先要确定:谁能使用、用于什么、出了问题由谁停止。

02 · 三种环境,各自承担一种风险

  • › 开发:支持本地调试和方案探索,默认小批量、低并发,不接触真实生产数据。需要归因时,再按人员或任务拆分密钥。
  • › 预发布:验证部署、重试、超时和缓存行为。配置应接近生产,但使用脱敏数据;压测须单独审批,不能与普通验证混算。
  • › 生产:只供正式服务使用,由部署系统注入,不分发到个人电脑,也不允许临时脚本借用。

03 · 把环境边界落实到部署入口

分别建立凭据记录,标明环境、用途、负责人和轮换日期。应用可以使用相同的配置项名称,但各部署环境必须读取不同的密钥。不要把生产凭据复制进测试配置,也不要以生产密钥作为缺失配置时的默认值。

密钥应存放在秘密管理系统中,而非代码仓库、镜像或聊天记录。部署前检查目标环境与凭据映射;缺少密钥时直接停止发布,避免自动回退造成越界调用。

04 · 按环境管预算,还要管总余额

对于多模型重负载团队,Quanta 的按量结算和统一余额便于集中管理支出,但不同密钥不代表独立钱包,也不自动提供硬性额度隔离。负责人仍需确认平台实际支持哪些限额,再通过应用网关补齐并发限制、预算告警和停止开关。

成本核算不能只看请求数。每次调用按实际词元计量,缓存写入和读取分别计价;相同数量的请求,可能因为上下文长度和缓存行为产生不同支出。预发布验证缓存时,也应单独观察这些项目。

05 · 发布验收必须包含一次撤钥演练

上线前确认三件事:开发密钥无法调用生产入口;日志不会记录完整密钥;撤销测试密钥后,生产任务仍正常运行。还要验证监控能否按环境定位异常,而不只显示汇总账单。

轮换时先创建替代凭据,更新部署并验证,再撤销旧密钥。怀疑泄露时则优先停用受影响凭据,暂停相关任务,检查调用记录与代码历史;不能仅删除聊天消息,就认为风险已经消失。

06 · 负责人先把三套密钥做成默认规则

不必一开始就为每个脚本建立复杂权限体系。先完成三环境隔离,补齐负责人、告警和撤销流程,再按服务或团队细分。若你们正准备集中管理持续调用,可以开通 Quanta 账户,并从首次部署起落实环境分钥,而不是等生产事故后再补边界。