2026年11月的文章 第19页
小节一:为什么 Agent Backend 一定会走向持久化——内存状态不是系统事实
先把一个很重要的边界说清楚,Python 内存中的对象,不等于系统真正“记住”了。 例如: sessions = {} runs = {} 它们非常快。 但生命周期只等于: 当前 Python 进程生命周期 服务一重启: 全...
数据持久化:SQLite 保存 Session、Run 和 Trace
上一节,我们已经让 Agent Backend 具备了实时 Streaming 能力。 现在客户端可以: POST /api/v1/runs ↓ 得到 run_id ↓ GET /api/v1/runs/{run_id}/events ↓ 实时看到进度 而 Run 本身也已经...
章末自测
题目 1:为什么 Agent 比普通 CRUD API 更需要 Streaming? 请从执行时长、多步骤、用户等待体验和可见性四个角度说明。 普通 CRUD 往往几百毫秒就能返回,用户无需关心内部执行阶段;Agent 则...
案例分析二:Data Analysis Agent 连续查询多个指标,Streaming 如何让业务用户理解分析路径?
场景背景 用户问,“为什么昨天收入下降?” Agent 需要: 查整体收入 查请求量 查曝光 查 eCPM 按媒体拆 按广告位拆 整个过程 40 秒。 没有 Streaming 用户只看到: 正在分析... 最后突然出现...
案例分析一:Coding Agent 跑 pytest 90 秒,Streaming 如何避免用户误以为系统卡死?
场景背景 用户提交,“帮我修复整个项目测试失败。” Agent 前 10 秒: 扫描项目 20 秒: 读取核心文件 然后运行: pytest -q 测试非常慢。 需要 45 秒。 如果前端一直: Loading... 用户很可能...
小节五:前端到底应该看到什么——Streaming 不是把内部推理全部暴露
这一点一定要讲清楚。 很多人一听 Streaming,就想: 把模型每一句内部推理都实时输出 这不是一个好的产品边界。 用户需要的是“进度” 例如: 正在读取项目 正在运行测试 发现 ImportError 正...
小节四:实现真正的 Flask SSE Agent Streaming——从 Run 创建到任务完成实时输出
现在我们把前面的 Run 和 Streaming 串起来。 我们实现: GET /api/v1/runs/{run_id}/events 这个接口负责,订阅某个 Run 的实时事件。 为什么不直接用: POST /runs 响应流? 也可以。 但拆成...
小节三:把 RunStep 变成 Streaming Event——不要再单独维护一套“假进度”
真正工程里,一个常见错误是: RunStep 一套 Streaming Message 另一套 最后两者不一致。 比如 Run 实际做到: Step 7 前端却只收到: Step 5 更好的方式是,Agent 每产生一个有意义的 RunStep...
小节二:SSE 到底是什么——理解 text/event-stream、event:、data: 和长连接
SSE 本质还是 HTTP。 它不像 WebSocket 那样切换成另一套协议。 客户端发起请求。 服务端返回: Content-Type: text/event-stream 然后不马上关闭连接。 而是持续发送: event: progress data: ...
小节一:为什么 Agent 比普通 API 更需要 Streaming——长执行、多步骤、状态变化决定了它不能只返回最终结果
普通 CRUD API 通常很快。 例如: GET /users/123 几十毫秒到几百毫秒。 用户不太需要知道: 数据库查到第几步 序列化做到哪里 但 Agent 完全不同。 Agent 的执行本身就是一个过程 一个任务可能...








