2026年11月的文章 第14页
案例分析二:Data Analysis Agent 想读取服务器 /etc/hosts 和执行 curl 排查网络问题,为什么也要遵守最小权限?
第二个案例更能说明一个现实问题:Agent 的需求不一定是恶意的,但只要能力边界放太宽,风险就会马上抬升。尤其是服务器环境里,读系统文件和发任意网络请求都属于高敏动作。 图里把处理思路讲...
案例分析一:Coding Agent 试图读取 ~/.ssh/id_rsa,为什么即使模型说“只是为了判断 Git 配置”也不能放行?
这个案例特别典型,因为它非常像真实对话:模型给出的理由看上去挺“合理”,甚至像是在帮你排查问题。但安全设计最怕的,就是被“听起来合理的理由”带偏。 从图里能看得很清楚:读取 ~/....
小节五:轻量 Sandbox 和真正生产 Sandbox 有什么区别——不要把 Path Validation 当成“完全隔离”
这里特别容易产生误解:很多人做完路径校验、命令 allowlist,就会觉得自己已经“做了沙箱”。但严格来说,这还只是应用层约束,离真正的生产级隔离还差不少。 你可以把这张图当成一个“隔离强...
小节四:实现一个统一 SafeToolExecutor——把 Workspace、ShellPolicy、Middleware 真正串起来
前面几节讲的规则,如果只是分散写在各个工具里,后面很容易失控。所以这一节最核心的思路,就是把安全检查真正收口到一个统一执行入口里。 这张图相当于把整个调用链串起来了:先收到 too...
小节三:Shell Tool 为什么比文件 Tool 更危险——Command Allowlist / Denylist 只是第一层
Shell 工具是这一章里最需要提高警惕的部分。因为文件工具一般只影响指定路径,而 Shell 工具一旦放开,本质上是在给 Agent 一个“几乎能摸到整个系统”的入口。 图里把三层常见防护拆开了:先...
小节二:Path Validation 真正难的地方——..、绝对路径、符号链接、覆盖写入都可能越界
这一节建议一定配着图看,因为路径校验最容易出问题的地方,不是在“知道有 ..”,而是在只做表面判断。真正有效的校验,必须把整个验证流水线走完整。 图里把几类高频危险输入都摆出来了:路...
小节一:Workspace Boundary 到底是什么——不是“默认目录”,而是 Agent 的活动边界
很多同学第一次看到 Workspace Boundary,会把它理解成“给 Agent 指定一个默认 cwd”。但它真正的意义,其实是限制 Agent 能活动到哪里。只要把这个边界想清楚,后面很多安全设计都会顺很多。 ...
权限、工作目录与 Sandbox
前面几章,我们已经连续给 Agent 加了几层控制。 先有: RunGuard 限制: MAX_STEPS Timeout Max Token Max Tool Calls 再有: System Reminder 帮助 Agent 在长任务里重新对齐目标。 然后有: ...
章末自测
题目 1:为什么 WAITING_APPROVAL 必须成为正式 Run 状态? 请从 Main Loop 暂停、前端展示、监控统计和服务重启恢复四个角度解释。 如果只返回“请确认”文本,系统并不知道 Run 是...
案例分析二:Data Analysis Agent 想修改生产数据,为什么某些动作应该“永远不能批准”?
最后这个案例强调另一条重要边界:审批并不是绕过权限的万能通行证。当前角色本来就没有生产写权限时,应该在安全策略处直接拒绝,而不是先交给用户批准。 对照图中的两条分支理解就好:DENY&nb...











