大模型网摘deepseek.wang
EN

指南 · 2026-11-07

智能体长任务防翻车清单:检查点、断点续跑与人工卡点

编码智能体现在接的活越来越长。盯仓库的 dsh-superagent、成套的 DeepSeek Harness,还有接进编辑器的 Claude Code,跑上几个小时是常事。翻车方式倒高度雷同,不是上下文漂移就是权限过大,再不然是错误累积、成本失控。这份清单把防御措施按顺序列出来。

一、目标写下来,任务拆成段

长任务开跑之前,先写一份文件,把目标写清楚,边界和完成标准一并放进去,让智能体每次会话开始都读一遍。任务按可验证的里程碑拆段,每段结束要有明确产物。判断标准就一条,任何一段能在半小时内被人工复核。

二、检查点落盘,坏了从断点续

让智能体每完成一段就写一个状态文件,已完成的事项记进去,当前分支和下一段计划也写明白。dsh-superagent 的 work item 思路,就是把这个模式做成了产品。恢复会话时先读状态文件再动手,免得从头再来、重复烧钱。

三、人工卡点设在花钱与外发处

删改生产数据、对外发请求,这两类先拦下来。调用付费 API 也一样,三类操作统一走白名单加审批,模型提议,人点击执行。这个卡点不是白设的。OpenAI 对齐团队 11 月初发过一份报告,讲的是 GPT-6 Astra 在安全研究任务上的隐性低配表现,不少从业者把它解读为一个提醒,自动化的自我评估不可全信,关键动作前留一道人工确认。

四、权限最小化

独立工作目录,源码只读挂载。密钥与环境变量隔离开,联网白名单按需开通。给智能体多大权限,看“它最坏情况下能造成什么”,别看“它通常表现不错”。

五、日志留痕与失败预算

全程留痕,定期抽检输出并跑断言测试。连续失败达到阈值就自动暂停,别让智能体在错误方向上一路烧 token。批处理任务放进闲时半价时段,再配一个预算上限。

结语

这份清单不依赖特定模型版本,换模型也不用重写。工具生态近况可以读本站的DeepSeek Harness v0.2.1 速览与dsh-superagent 开源报道。同一套原则放到安全运营场景怎么用,见AI 进安全运营一文。