章末自测

题目 1:为什么一个 Agent 已经有 System Prompt 和 Working Memory,仍然需要 System Reminder?

请从长 Context、局部新信息、目标漂移和注意力重新锚定四个角度解释。

System Prompt 提供长期规则,Working Memory 保存当前状态,但在长 Run 中,大量最新 Tool Result、日志和错误会不断进入 Context,局部信息可能暂时压过原始目标。Reminder 的价值是把 Goal、Completed、重复行为、剩余任务和停止条件重新组织成一段高优先级短信息,让模型重新从全局判断当前一步。它不是替代 Memory,而是周期性重新锚定注意力。

题目 2:System Reminder 和 RunGuard 最大的区别是什么?

请说明为什么一个是软控制,一个是硬控制,并给出它们在同一 Main Loop 中的合理执行顺序。

Reminder 通过 Context 影响模型决策,提醒 Agent 回到目标、避免重复或尽快收敛,但模型仍可能选择继续,因此属于软控制。RunGuard 直接检查 MAX_STEPS、Timeout、Token 和 Tool Calls,一旦超限就强制停止,属于硬控制。合理顺序通常是先 guard.check(),若已经超预算直接终止;尚未超预算时再判断是否需要 inject_reminder,然后继续下一轮。

题目 3:编程实现——写一个最小 inject_reminder()

要求输入 goal、completed、remaining、step/max_steps,返回一条 role=system 的消息。

def inject_reminder(
    goal: str,
    completed: list[str],
    remaining: list[str],
    step: int,
    max_steps: int,
) -> dict:
    completed_text = "\n".join(
        "- " + item
        for item in completed
    ) or "- 暂无"

    remaining_text = "\n".join(
        "- " + item
        for item in remaining
    ) or "- 暂无"

    content = (
        "SYSTEM REMINDER\n\n"
        f"Current Goal:\n{goal}\n\n"
        f"Completed:\n{completed_text}\n\n"
        f"Remaining:\n{remaining_text}\n\n"
        f"Budget:\n"
        f"- Steps: {step}/{max_steps}\n\n"
        "请重新判断下一步。"
        "如果任务已经完成,请结束。"
    )

    return {
        "role": "system",
        "content": content,
    }


if __name__ == "__main__":
    print(
        inject_reminder(
            goal="修复 ImportError",
            completed=[
                "已定位 requests 缺失"
            ],
            remaining=[
                "修复依赖",
                "重新测试",
            ],
            step=10,
            max_steps=30,
        )
    )
#这个版本虽然简单,但已经体现 Reminder 的核心:基于真实状态重新锚定目标和剩余任务。

题目 4:为什么 Reminder 中最好明确写“现在是否可以结束”?

请结合 Data Analysis Agent 已经找到主要原因但仍不断下钻的场景说明。

开放式 Agent 很容易把“还能继续查”误认为“应该继续查”。如果 Data Analysis Agent 已经确认请求量稳定、eCPM 下跌、media_B 与 position_17 是主要异常点,其实已经足够回答用户问题。Reminder 明确 Stop Condition,例如“主要原因和关键证据已经明确时应结束”,可以帮助模型把目标从继续探索切回组织结论,从而减少无意义 SQL、Token 和延迟。

题目 5:为什么旧 Reminder 不应该一直保存在 Conversation History 中?

请从过期、冲突和 Context 膨胀三个角度回答。

Reminder 是某一时刻的运行快照,例如第 10 步时“还剩修复和验证”,到第 18 步可能已经只剩最终总结。如果旧 Reminder 一直留在 Conversation,模型会同时看到多个过期状态,容易冲突;随着周期提醒不断增加,也会造成新的 Context 膨胀。因此更适合只把最新 Reminder 注入当前 Context,旧 Reminder 则写入 Trace 供后续审计和评估。

题目 6:Reminder Trigger 为什么最好同时支持周期触发和风险触发?

请分别说明 interval、重复 Tool、重复 Error、预算使用率的价值。

周期触发例如每 5 Step 一次,简单稳定,可以防止长任务逐渐漂移;重复 Tool 或重复 Error 是更强的即时风险信号,不应该等到下一个固定周期才提醒;预算使用率较高时,Reminder 可以要求 Agent 优先收敛,避免在剩余资源很少时继续扩展探索。组合策略能兼顾稳定性与及时性,比只用单一触发条件更实用。

题目 7:如何验证 System Reminder 真的有效,而不是“感觉有用”?

请设计一个简单 A/B 实验,并给出至少四个可比较指标。

可以准备一组固定 Agent 任务,A 组不使用 Reminder,B 组使用“每 5 Step + 重复行为触发”的 Reminder。比较两组平均 Steps、Tool Calls、重复 Tool Call 次数、重复 Error 次数、总 Token、平均耗时和任务成功率。如果 B 组在成功率不下降的情况下显著减少重复调用、Steps、Token 或耗时,就说明 Reminder 有实际价值。还可以通过 Trace 检查提醒后下一步是否改变策略。

进一步阅读

  • Runtime Guardrails:理解软约束与硬约束在 Agent Runtime 中如何配合。
  • Context Re-anchoring:研究长上下文中如何周期性重新强调目标与规则。
  • Working Memory:Reminder 的事实来源之一,不应让 Reminder 重新发明状态。
  • Loop Detection:重复 Tool、重复 Error、No Progress 都可以作为 Reminder Trigger。
  • Prompt Injection vs System Control:理解 Reminder 应该由 Harness 生成,而不是由外部 Tool Result 覆盖。
  • Agent Evaluation:通过 A/B 测试验证 Reminder 对 Steps、Token 和成功率的真实影响。
  • Tracing:记录每次 Reminder 的触发原因与后续行为变化。
  • Middleware:下一节将从“提醒”升级到“拦截”,真正控制危险 Tool Request。

术语表

  • System Reminder:在 Agent 长 Run 中周期性或按风险触发注入的高优先级运行时提醒,用于重新强调 Goal、Progress、重复行为、剩余任务和结束条件。
  • Re-anchoring:把模型注意力重新锚定到当前任务的全局目标和关键状态,减少局部信息导致的漂移。
  • Reminder Trigger:决定什么时候注入 Reminder 的条件,可以是固定 Step 周期、重复 Tool、重复 Error、预算使用率或 No Progress。
  • Soft Control:通过上下文、提醒和规则影响模型行为,但不强制终止执行的控制方式。
  • Hard Control:由程序确定性执行的限制,例如 MAX_STEPS、Timeout 和 Max Tool Calls,一旦触发模型无法绕过。
  • Stop Condition:明确判断 Run 何时应该结束的条件,例如目标错误消失、验证通过、用户问题已经有足够证据回答。
  • Repeated Tool Signal:同一 Tool 与相同或等价参数在短窗口内反复出现的风险信号,常说明 Agent 没有利用之前的 Observation。
  • Current Reminder:ContextBuilder 当前注入的最新 Reminder 快照,通常覆盖旧版本,而不是无限追加到 Conversation History。
  • Reminder Cooldown:两次 Reminder 之间的最小 Step 间隔,用于避免预算阈值或重复信号持续满足时每轮注入相同提醒。

本章总结

这一节,我们在“硬停止”之外,又给 Agent 加了一层非常重要的“软纠偏”。

上一节的核心是:

MAX_STEPS
Timeout
Max Token
Max Tool Calls

它们解决,Agent 最晚什么时候必须停。

这一节解决的是,在真正被迫停止之前,能不能先把跑偏的 Agent 拉回来。

这就是:

System Reminder

最核心的五个问题是:

当前目标是什么?

目前完成了哪些工作?

是否重复执行同一个操作?

还有哪些任务没有完成?

现在是否可以结束?

我们进一步加入了:

剩余预算

让 Agent 知道:

Steps
Tool Calls
Tokens

都不是无限的。

这一节最重要的设计原则是,Reminder 不能凭空编造状态。

它应该读取:

Working Memory
RunGuard
RepetitionDetector
Run Steps
Tool History

然后由:

inject_reminder()

组织成短、清晰、具体的运行时提醒。

我们还明确区分:

System Prompt

与:

System Reminder

System Prompt 是长期基础规则。

Reminder 是某个 Run 某个时刻的临时状态快照。

所以 Reminder 不应该一直追加到 Conversation History。

更好的方式是:

ContextBuilder
只保留最新 Current Reminder

Trace
保留历史 Reminder 记录

这样既能纠偏,又不会制造新的 Context 膨胀。

我们还设计了多种 Trigger:

固定周期
重复 Tool
重复 Error
预算过半
No Progress
阶段切换

真实系统通常组合使用。

例如:

每 5 Step 提醒一次
+
重复 Tool >= 2 次立即提醒
+
Token 使用率 > 70% 时提醒收敛

这比每轮提醒更自然。

这一节还再次强调,Reminder 不能替代 RunGuard。

Reminder 是软控制。

它只能说:

请重新判断。

RunGuard 是硬控制。

它可以直接说:

预算已耗尽,Run 必须停止。

所以成熟 Agent 的控制结构开始变成:

Working Memory
      ↓
System Reminder
      ↓
模型重新对齐
      ↓
RunGuard
      ↓
必要时强制停止

这套机制对 Coding Agent、Data Analysis Agent、Research Agent、Browser Agent 都非常有用。

因为只要是开放式任务,模型就可能:

过度探索
重复调用
被局部信息带偏
不知道什么时候应该结束

如果你现在能自己实现:

inject_reminder()

并让它回答:

Goal
Completed
Repeated
Remaining
Budget
Stop Condition

再通过 Trace 比较提醒前后的 Steps、Token、Tool Calls 和重复次数,那么你已经真正把 Reminder 从“Prompt 技巧”做成了,Agent Runtime 的工程控制机制。

下一节,我们会继续往前一步。

Reminder 只是:

告诉 Agent 不要做危险事情。

但如果模型还是发出了:

rm -rf
DROP TABLE
git push
删除文件
修改生产数据

系统不能只说,“我提醒过你了。”

下一节,我们会正式加入,Middleware:在 Agent 与 Tool 中间加一道墙。

从下一节开始,我们不再只是纠偏。

而是开始,真正拦截。

© 版权声明
THE END
喜欢就支持一下吧
点赞6 分享
评论 抢沙发
头像-大赛人网
欢迎您留下宝贵的见解!
提交
头像-大赛人网

昵称

取消
昵称

    请登录后查看评论内容