3、其它内置中间件

18小时前更新

0377

3.1 ModelCallLimitMiddleware中间件

限制模型调用次数，避免无限循环，控制调用成本。
举例1：整个会话限制-优雅退出

图片[1]-3、其它内置中间件-大赛人网

图片[2]-3、其它内置中间件-大赛人网

图片[3]-3、其它内置中间件-大赛人网

图片[4]-3、其它内置中间件-大赛人网

举例2：整个会话限制-抛异常

图片[5]-3、其它内置中间件-大赛人网

图片[6]-3、其它内置中间件-大赛人网

举例3：单次调用限制-优雅退出
需要fake-server重复触发工具调用，代码如下

图片[7]-3、其它内置中间件-大赛人网

图片[8]-3、其它内置中间件-大赛人网

图片[9]-3、其它内置中间件-大赛人网

图片[10]-3、其它内置中间件-大赛人网

图片[11]-3、其它内置中间件-大赛人网

图片[12]-3、其它内置中间件-大赛人网

注意：服务端代码逻辑是80%概率输出非法响应，所以不一定会导致单次请求的工具调用超过限制，尝
试几次即可看到效果。
客户端代码

图片[13]-3、其它内置中间件-大赛人网

图片[14]-3、其它内置中间件-大赛人网

图片[15]-3、其它内置中间件-大赛人网

图片[16]-3、其它内置中间件-大赛人网

举例4：单次调用限制-抛异常

图片[17]-3、其它内置中间件-大赛人网

图片[18]-3、其它内置中间件-大赛人网

图片[19]-3、其它内置中间件-大赛人网

© 版权声明

文章版权归作者所有，未经允许请勿转载。

THE END

LangChain
# LangChain

喜欢就支持一下吧

相关推荐

评论抢沙发

欢迎您留下宝贵的见解！

提交

请登录后查看评论内容