小节五:比 MAX_STEPS 更聪明的停止条件——重复 Tool、重复 Error、No Progress

有了硬预算之后,系统已经不会彻底失控了。但如果每次都非得等到第 30 步、第 300 秒或者第 50,000 Token 才停,那依然会浪费很多资源。所以更成熟的做法,是尽早识别出“虽然还没超预算,但已经没有继续的必要了”。

图片[1]-小节五:比 MAX_STEPS 更聪明的停止条件——重复 Tool、重复 Error、No Progress-大赛人网

这张图把三类最常见的软停止信号放在了一起:重复工具调用、重复错误、无进展。你可以把它们理解成“提前刹车”的线索。它们不是在宣告任务彻底失败,而是在提醒系统:要么换策略,要么补证据,要么安全停止。

资源预算是一层非常重要的硬边界。

但如果能更早发现:

已经没有进展

就没必要等到第 30 步。

所以我们可以加入“软停止信号”。

重复 Tool Call

如果连续:

read_file("app.py")
read_file("app.py")
read_file("app.py")

很可能模型没有利用 Observation。

可以记录 Tool Signature:

tool_name
+
normalized arguments

例如:

read_file|{"path":"app.py"}

连续重复达到阈值:

3 次

就停止或注入提醒。

重复 Error

比如:

ModuleNotFoundError: requests

出现 4 次。

说明 Recovery 没有推进。

可以:

same_error_count >= 3
→ stop

或者先:

inject reminder

告诉模型:

你已经连续三次遇到同一个错误,
必须改变策略或结束。

下一章会专门讲 System Reminder。

No Progress 怎么判断?

这是最难的。

可以先做非常工程化的近似。

例如最近 5 Step:

Goal 没变
Error 没变
Working Memory.completed 没新增
Tool Result 没产生新事实

就认为:

no_progress

不需要追求完美。

因为它只是一个额外信号。

真正保险丝仍然是:

MAX_STEPS
Timeout
Max Token
Max Tool Calls

一个简单重复检测器

参数签名要先规范化。{"path":"app.py","limit":10} 和字段顺序不同的同一份 JSON,不应该被当成两个动作;相反,文件内容已经改变后再次 read_file,虽然参数相同,却可能是合理验证。更稳妥的检测会把 Workspace 版本、Artifact 哈希或 Observation 指纹一起纳入判断。

错误也不要直接比较完整字符串。时间戳、临时路径、请求 ID 每次都可能不同,我们通常提取稳定的 error_type + error_code + root_cause 作为签名。检测器发现重复后,先记录证据并触发 Reminder;只有继续重复或硬预算耗尽时再停止,这样不容易误伤正常迭代。

为什么不能只靠重复检测?

因为循环可能不重复。

比如:

read A
read B
read C
read D

每次都不同。

但也许没有任何进展。

所以,重复检测是补充,不是替代资源预算。

重复动作不一定意味着没有进展

我们看到 Agent 连续三次运行测试,先别急着判定它死循环。若每次测试之间都有不同的有效修改,失败数量逐步减少,这可能是正常迭代。相反,连续读取同一版本文件、得到相同结果、又没有提出新问题,才更像缺少进展。判断需要结合参数、资源版本和 Observation。

监控外部任务也可能反复查询同一接口。轮询应有明确间隔、截止时间和停止条件,重复调用检测则应识别这种已声明的等待模式。否则我们为了防止循环,会误伤正常长任务。

预算仍是最终边界:步数、工具次数和时间分别限制不同资源。每次 Run 应重新初始化计时和计数,恢复时则按约定继承已消耗预算,避免误用前一个任务的状态,或重启后获得无限新预算。

预算属于 Run,子任务不能凭空刷新额度

预算模板可以来自 Agent 类型、租户套餐或风险等级,但 Run 创建时应保存一份快照。运行到一半修改全局默认值,不应该悄悄改变已经开始的任务。

发生重试、进程重启或 Worker 接管时,已消耗的 Step、Token 和 Tool Call 要从持久化 Usage 恢复;时间预算则明确保存 deadline,或保存累计主动执行时长。只重新构造一个 RunGuard(),相当于给卡住的任务重新发了一整份预算。

以后加入 SubAgent 时也一样。父 Agent 把任务交给子 Agent,不代表总预算清零。常见做法是父 Run 给子任务划分一个额度切片,并继续计入父级总账:

Parent remaining tool calls = 12
Delegate to SubAgent = reserve 5
SubAgent actual usage = 3
Return unused = 2

这叫预算传播。没有它,Agent 可以通过不断创建子任务绕过所有限制。

动手分辨:哪组轨迹需要停止

准备“修改→失败测试数减少”的轨迹,以及“读取→同结果→再次读取”的轨迹。参考判断是前者可以在预算内继续,后者应要求新的调查依据或停止。把决定原因写入记录,后续才能评估停止策略是否过于激进。

© 版权声明
THE END
喜欢就支持一下吧
点赞13 分享
评论 抢沙发
头像-大赛人网
欢迎您留下宝贵的见解!
提交
头像-大赛人网

昵称

取消
昵称

    请登录后查看评论内容