2026年11月的文章 第15页
案例分析一:Coding Agent 准备删除 37 个文件,为什么批准对象必须展示具体清单而不是只显示“删除无用文件”?
场景背景 用户说: “帮我清理这个项目里没用的文件。” Agent 扫描后判断: build/ dist/ tmp/ .cache/ generated/ 一共 37 个文件。 它生成: delete_files([...]) Middleware: REQUIRE_...
小节五:Human in the Loop 如何接入 Run、SQLite、Streaming 与 Trace——生产系统真正复杂的地方在“恢复”
到这里,人工审批已经不只是一个接口了:Run 需要知道自己在等待什么,数据库要保存相应上下文,Streaming 要告诉前端进度,Trace 则记录是谁在什么时候作出了什么决定。把这些能力放到同一张图...
小节四:实现 /runs/{id}/approve——审批 API 如何恢复 Run
前面保存好的 pending_action,到了 API 这一层才真正派上用场。一次批准请求不应该简单理解成“收到同意,马上运行”;它还要找到正确的 Run、确认请求未被处理、取回原始动作,再走安全检查...
小节三:实现 ApprovalManager——批准、拒绝、幂等与防重复执行
这一节把审批从“按钮响应”推进到“可重复调用也不能重复执行”的管理逻辑。图里把待审批、已批准和已执行区分开,方便我们看到用户点两次批准时,系统究竟应该检查哪一个状态。 请特别注意:a...
小节二:Pending Action 为什么必须保存——用户批准的是“具体动作”,不是一个模糊意图
为什么要费心保存 pending_action?把审批过程摊开后答案就很直观:需要留住的不只是“模型想删除文件”这类一句话,而是工具名、原始参数、风险原因以及关联的 Run 和审批标识。 这样用户...
核心小节一:为什么 REQUIRE_APPROVAL 必须变成正式状态,而不是一句“请确认”
这是本章第一条非常重要的工程边界。 有些 Demo 会这样处理: if risky: return '请用户确认' 看起来完成了人工确认。 但实际上没有。 因为: “请确认” 只是一个文本结果。 系统并不知道: 任...
Human in the Loop:高风险动作必须人工确认
上一节,我们已经在 Agent 与 Tool 之间真正加了一道墙: Agent ↓ Tool Request ↓ Middleware ↓ Permission ↓ Safety Check ↓ Tool Middleware 可以把一次 Tool Request 判断为: ALLOW DE...
章末自测
题目 1:为什么 Tool Request 和 Tool Execution 必须拆成两个概念? 请结合模型概率性决策、权限、安全和不可逆副作用四个角度解释。 Tool Request 只是模型提出“我想做这个动作”,模型的判...
案例分析二:Data Analysis Agent 发现异常后想直接 UPDATE 生产表,为什么“为了修复问题”仍然不能越过安全边界?
场景背景 用户问: “为什么昨天收入下降?” Agent 查到一张生产配置表中: rebate_rate 异常。 模型提出: UPDATE production_policy SET rebate_rate = 0.8 WHERE id = 42; 模型解释: “这...
案例分析一:Coding Agent 想执行 git push origin main,为什么不能因为“任务已经验证通过”就自动放行?
场景背景 用户任务: “帮我修复这个 Bug,并验证测试。” Agent 完成: read edit pytest 它的理由很合理: “修复已经完成,我应该把结果推送。” 但用户从来没授权: push 如果没有 Middlewa...











