第5部分:让 Agent 不会“发疯” 死循环:Agent 为什么会一直干活?

前面几部分,我们一直在给 Agent 增加能力。

最开始它只有:

Reason
 ↓
Action
 ↓
Observation
 ↓
Reason

后来我们给它加了:

Tool Registry
Tool Schema
Error Recovery
Parallel Tool Calling
Working Memory
Session
Context Compaction
Long-term Memory
Flask API
Run
Streaming
SQLite

现在这个 Agent 已经越来越像一个真正能干活的后端系统。

但能力越强,一个新的问题就越危险,它可能真的一直干下去。

比如 Coding Agent 的典型循环:

read
 ↓
edit
 ↓
test
 ↓
失败
 ↓
read
 ↓
edit
 ↓
test
 ↓
失败
 ↓
……

从模型角度看,每一步似乎都“有理由”。

第一次测试失败:

那我再看代码。

第二次失败:

那我再改一点。

第三次失败:

也许还有另一个文件。

如果 Harness 不给它资源边界,Main Loop 完全可能继续:

直到:
Token 用完
API 超时
Tool 报错
服务资源耗尽
用户手动终止

这显然不能接受。

所以这一节,我们开始进入整门课非常关键的一部分,让 Agent 不会“发疯”。

第一步,就是给它明确的资源边界:

MAX_STEPS = 30

并进一步增加:

Timeout
Max Token
Max Tool Calls

真正成熟的 Agent 不应该只会,“继续尝试。”

还必须知道,“什么时候必须停。”

开场引入

先看一个非常常见的 Bug 修复任务。

用户说,“帮我修复这个项目里 pytest 失败的问题。”

Agent 开始工作。

第1步:

read_file("src/service.py")

第2步:

edit_file("src/service.py")

第3步:

run_shell("pytest -q")

失败:

1 failed, 18 passed

Agent 得到 Observation:

AssertionError

于是它又:

read_file("tests/test_service.py")

然后:

edit_file("src/service.py")

再:

pytest

还是失败。

Agent 继续:

read
edit
test

这时候如果模型每一轮都能给出一个“听起来合理”的下一步,Harness 就很难仅靠模型自己停下来。

模型可能认为:

还没成功
→ 应该继续

可工程系统真正要问的是,继续的成本是否还值得?

假设一个任务已经:

跑了 28 步
调用 Tool 42 次
输入输出累计 180K Token
执行 9 分钟
连续 4 次出现同一个 AssertionError

这时再让它继续,已经不是“自主”。

而是,失控。

这也是为什么 Agent 与普通函数很不一样。

普通函数通常有清楚边界:

输入
计算
返回

Agent 是一个动态循环。

它每轮自己决定下一步。

所以系统必须额外定义:

最大步数
最大时间
最大 Token
最大 Tool Calls
重复检测
无进展检测

并且资源耗尽时:

Run → BUDGET_EXCEEDED

而不是:

继续 while True

注意,这里有一个非常重要的思想,Agent 的目标不是“永远想办法成功”。

真实工程更重要的是,在可控成本、可控时间和可控风险内尽量完成任务。

任务做不完,可以失败。

但必须:

可失败
可停止
可解释
可追踪

这才是真正可上线的 Agent。

知识地图

先把这一章的主线捋清楚,理解起来会轻松很多。下面这张图把 Agent 主循环、运行预算、软停止信号 放到了一张图里:任务什么时候继续、什么时候停止、为什么停止,基本都能一眼看明白。你先有这个全局框架,后面再看 MAX_STEPS、Timeout、No Progress 这些概念,就不会觉得它们是彼此割裂的零散规则。

图片[1]-第5部分:让 Agent 不会“发疯”  死循环:Agent 为什么会一直干活?-大赛人网

你可以把它当成这一节的总导航:上面是 Agent 的主循环,左下是硬预算,右下是更聪明的软停止。后面的实现、案例和复盘,其实都是围绕这张图一点点展开的。

图片[2]-第5部分:让 Agent 不会“发疯”  死循环:Agent 为什么会一直干活?-大赛人网

资源预算:

图片[3]-第5部分:让 Agent 不会“发疯”  死循环:Agent 为什么会一直干活?-大赛人网
© 版权声明
THE END
喜欢就支持一下吧
点赞5 分享
评论 抢沙发
头像-大赛人网
欢迎您留下宝贵的见解!
提交
头像-大赛人网

昵称

取消
昵称

    请登录后查看评论内容