小节三:实现 ToolMiddleware——先拦 Shell、SQL、git push、删除文件和生产写入

现在开始写一个完整可运行的第一版。

我们先定义:

ToolRequest
MiddlewareDecision
ToolMiddleware

然后加入几个最典型规则。

这段代码已经完成:

允许
拒绝
等待审批

三类决策。

前面这段可运行的第一版代码,可以先拿 Shell 和 SQL 对照一下。你会发现,同样属于一个工具,具体命令不同,走到的决策分支也可能不同。

图片[1]-小节三:实现 ToolMiddleware——先拦 Shell、SQL、git push、删除文件和生产写入-大赛人网

图里列的是本章示例策略,不是通用的安全等级表。比如 pytest -q 在示例中放行,也不代表任何来源、任何环境中的测试命令都可以无条件运行。

为什么规则只做第一版?

因为真实 Shell / SQL 安全分析远比字符串包含复杂。

例如:

rm -rf ./safe_dir

和:

rm -rf /

风险不同。

SQL 也可能:

WITH x AS (...) DELETE ...

不能只看开头。

所以后续可以:

Shell Parser
SQL Parser
AST
Policy Engine

逐步增强。

这也是为什么我更愿意把这里的关键字检测叫作“第一版演示规则”,而不是一个已经完工的安全系统。真实命令和 SQL 都存在更复杂的写法,靠包含某个字符串很容易漏判。

图片[2]-小节三:实现 ToolMiddleware——先拦 Shell、SQL、git push、删除文件和生产写入-大赛人网

这张图并不是要求大家马上实现 AST 或完整 Policy Engine,而是提醒我们保留升级空间:本章先把执行边界接好,后面再逐步增强识别能力。

但本章重点不是:

“写出完美命令检测器。”

而是:

建立 Middleware 这个执行边界。

判断失败时 Agent 收到什么?

不能只返回:

blocked

更合适的 Observation:

Tool request blocked by middleware.
Reason: git push requires approval.
Risk: high.
Next action: ask for approval or choose a non-destructive alternative.

这样模型可以调整策略。

© 版权声明
THE END
喜欢就支持一下吧
点赞6 分享
评论 抢沙发
头像-大赛人网
欢迎您留下宝贵的见解!
提交
头像-大赛人网

昵称

取消
昵称

    请登录后查看评论内容