System Reminder:把跑偏的 Agent 拉回来

上一节,我们给 Agent 加上了真正意义上的“刹车”。

现在一次 Run 已经可以受到:

MAX_STEPS
Timeout
Max Token
Max Tool Calls
Repeated Tool Call
Repeated Error
No Progress

这些资源边界限制。

也就是说,Agent 即使一直:

read
↓
edit
↓
test
↓
fail
↓
read
↓
edit
↓
test

最终也不会无限执行。

这一步非常重要。

但如果我们仔细想一下,会发现,并不是所有跑偏都应该马上终止。

有时候 Agent 只是忘了最初目标。

有时候它刚刚读了太多日志,注意力被某个局部错误吸走。

有时候它已经完成 80% 的任务,却还在继续探索边缘问题。

还有时候,它已经连续两次调用相同 Tool,但只要提醒一句:

你已经重复执行同一操作,请先判断这个动作是否带来新信息。

它就能重新回到主线。

所以这一节我们不增加新的“硬停止”。

而是增加一个,运行时纠偏机制。

也就是:

System Reminder

核心形式:

当前目标是什么?

目前完成了哪些工作?

是否重复执行同一个操作?

还有哪些任务没有完成?

现在是否可以结束?

我们会实现周期性的:

inject_reminder()

让 Agent 在长 Run 中定期重新看一眼:

我为什么在这里?
我已经做了什么?
我是不是重复了?
我还剩多少预算?
我现在是不是应该结束?

这件事看起来很简单,但对长期 Agent 的稳定性影响非常大。

开场引入

这一章其实特别适合先配一张总览图去看。很多同学一开始会把 Agent 跑偏理解成“Prompt 没写好”,但更真实的情况往往是:起点没问题,问题出在长 Run 过程中,局部信息不断压过了全局目标。

图片[1]-System Reminder:把跑偏的 Agent 拉回来-大赛人网

这张图把整个思路串得很清楚:左边是最初的全局目标,中间是长 Run 里常见的几种漂移方式,后面则是 Reminder 介入时真正该问的几个问题,最后再把注意力拉回正确轨道。先有这样一张全貌图,后面每个小节读起来就不会散。

先看一个 Coding Agent。

用户一开始的任务非常明确,“修复项目启动时报 ImportError 的问题,尽量最小改动,不要动 tests/。”

Agent 前几步做得很好:

Step 1
读取项目结构

Step 2
读取 app.py

Step 3
运行测试

Step 4
确认 ImportError 出现在 requests

Step 5
检查 requirements.txt

到这里其实主线很清楚。

但后面模型读到一个日志片段:

WARNING: cache directory not writable

于是它开始:

read cache.py
read config.py
search cache
read Dockerfile
read deployment script

连续跑了 8 步。

这些动作都不是完全没道理。

但已经偏离,“修复 ImportError。”

这时如果只靠 MAX_STEPS = 30,Agent 最终当然会停。

问题是,为什么非要浪费到第 30 步才停?

如果在第 10 步插入一个 Reminder:

当前目标:
修复 ImportError,并保持最小改动。

已完成:
- 已确认 ImportError 与 requests 相关
- 已检查 requirements.txt
- 尚未验证依赖补充方案

重复 / 偏离信号:
- 最近多步集中在 cache warning
- 该 warning 尚未证明与 ImportError 有直接关系

剩余任务:
- 确认依赖来源
- 修复
- 重新测试

结束判断:
如果 ImportError 已消失且测试通过,应结束;不要继续调查无关 warning。

模型很可能马上回到:

requirements / dependency

主线。

这就是 Reminder 的价值。

它不强制说:

STOP

而是,重新把任务全局状态摆到模型眼前。

这个设计和我们前面很多模块都有关系。

Working Memory 已经保存:

goal
completed
errors
next_action

RunGuard 已经知道:

steps
tokens
tool_calls
elapsed

RepetitionDetector 已经知道:

是否重复 Tool
是否重复 Error

ContextBuilder 负责:

把这些信息放进模型输入

所以 System Reminder 不应该凭空创造新事实。

它应该做的是,把现有真实状态重新组织成一段高优先级、短而明确的纠偏信息。

这也是这一章最关键的工程原则。

知识地图

图片[2]-System Reminder:把跑偏的 Agent 拉回来-大赛人网

Reminder 与硬边界:

图片[3]-System Reminder:把跑偏的 Agent 拉回来-大赛人网
© 版权声明
THE END
喜欢就支持一下吧
点赞6 分享
评论 抢沙发
头像-大赛人网
欢迎您留下宝贵的见解!
提交
头像-大赛人网

昵称

取消
昵称

    请登录后查看评论内容