上下文编辑中间件,该中间件提供了上下文管理的一种方式。
通过更改发送给模型的消息列表来控制成本。
注意:不会更改消息列表。因此我们只能通过token用量来推测是否对消息列表进行了裁剪。
- 实验组-启用上下文编辑
![图片[1]-3.8 ContextEditingMiddleware中间件-大赛人网](https://www.dsrw.com/wp-content/uploads/2026/11/image-1045.png)
![图片[2]-3.8 ContextEditingMiddleware中间件-大赛人网](https://www.dsrw.com/wp-content/uploads/2026/11/image-1046.png)
![图片[3]-3.8 ContextEditingMiddleware中间件-大赛人网](https://www.dsrw.com/wp-content/uploads/2026/11/image-1047.png)
![图片[4]-3.8 ContextEditingMiddleware中间件-大赛人网](https://www.dsrw.com/wp-content/uploads/2026/11/image-1048.png)
2. 对照组-不裁剪上下文
![图片[5]-3.8 ContextEditingMiddleware中间件-大赛人网](https://www.dsrw.com/wp-content/uploads/2026/11/image-1049.png)
![图片[6]-3.8 ContextEditingMiddleware中间件-大赛人网](https://www.dsrw.com/wp-content/uploads/2026/11/image-1050.png)
可以观察到,对照组的input_tokens明显大于实验组。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
THE END

上下文编辑中间件,该中间件提供了上下文管理的一种方式。
通过更改发送给模型的消息列表来控制成本。
注意:不会更改消息列表。因此我们只能通过token用量来推测是否对消息列表进行了裁剪。
![图片[1]-3.8 ContextEditingMiddleware中间件-大赛人网](https://www.dsrw.com/wp-content/uploads/2026/11/image-1045.png)
![图片[2]-3.8 ContextEditingMiddleware中间件-大赛人网](https://www.dsrw.com/wp-content/uploads/2026/11/image-1046.png)
![图片[3]-3.8 ContextEditingMiddleware中间件-大赛人网](https://www.dsrw.com/wp-content/uploads/2026/11/image-1047.png)
![图片[4]-3.8 ContextEditingMiddleware中间件-大赛人网](https://www.dsrw.com/wp-content/uploads/2026/11/image-1048.png)
2. 对照组-不裁剪上下文
![图片[5]-3.8 ContextEditingMiddleware中间件-大赛人网](https://www.dsrw.com/wp-content/uploads/2026/11/image-1049.png)
![图片[6]-3.8 ContextEditingMiddleware中间件-大赛人网](https://www.dsrw.com/wp-content/uploads/2026/11/image-1050.png)
可以观察到,对照组的input_tokens明显大于实验组。
请登录后查看评论内容