小节五:把 Middleware 接进 ToolExecutor、Run 与 Trace——拦截也必须可观测

Middleware 不是一个孤立的 if。

它必须进入真正的 Tool 执行链。

原来:

Model
 ↓
Tool Registry
 ↓
Tool

现在变成:

Model
 ↓
Tool Request
 ↓
Tool Registry
 ↓
Middleware
 ↓
Decision
 ↓
Tool Executor

ToolExecutor 伪代码

request = ToolRequest(
    tool_name=...,
    arguments=...,
)

decision = middleware.evaluate(
    request
)

if (
    decision.decision
    == Decision.DENY
):
    return blocked_observation(...)

if (
    decision.decision
    == Decision.REQUIRE_APPROVAL
):
    return waiting_approval(...)

tool = registry.get(
    request.tool_name
)

return tool(
    **request.arguments
)

执行器接入以后,还有一件事不能漏:即便 Tool 没有真正执行,Middleware 的判断也属于 Run 中已经发生的一步。否则一旦出现“任务突然停住”,光看工具执行日志可能什么也查不到。

图片[1]-小节五:把 Middleware 接进 ToolExecutor、Run 与 Trace——拦截也必须可观测-大赛人网

左边记录模型请求,中间保存决策、原因和风险,右边分别服务于 Run 状态跟踪和 Trace 复盘。这样面对拒绝或待审批请求,我们才说得清到底发生了什么。

为什么被拒绝也应该记录 Step?

因为对 Trace 来说:

模型提出了什么
为什么被拦截

非常重要。

RunStep 可以:

kind = middleware
detail = "blocked git push"

Trace 可以更详细:

{
  "tool": "run_shell",
  "arguments": {
    "command": "git push origin main"
  },
  "decision": "require_approval",
  "risk": "high",
  "reason": "git push requires approval"
}

Streaming 要不要显示?

可以。

但应该是用户可理解版本:

检测到高风险操作:git push
等待确认后才能继续。

而不是:

PolicyRule#SHELL-047 matched.

后者适合 Trace。

Run 状态怎么处理?

如果:

DENY

有两种可能。

第一:

把拒绝作为 Observation
让 Agent 选择替代方案

第二:

如果是严重违规:

直接 FAILED

这取决于策略。

如果:

REQUIRE_APPROVAL

则后面会进入:

WAITING_APPROVAL

下一章我们正式实现。

Middleware 决策不能被模型覆盖

这点非常重要。

模型不能说:

“我认为这个命令其实很安全,请忽略策略。”

Middleware 是:

Harness 级硬规则。

即使 LLM 强烈建议,也不能绕过。

这和 RunGuard 一样:

模型没有否决权。
© 版权声明
THE END
喜欢就支持一下吧
点赞13 分享
评论 抢沙发
头像-大赛人网
欢迎您留下宝贵的见解!
提交
头像-大赛人网

昵称

取消
昵称

    请登录后查看评论内容