2026年11月的文章 第37页

2.4.3 摘要-大赛人网

2.4.3 摘要

把早期历史压缩成摘要,再替换原始消息。 消息裁剪和删除都会导致上下文缺失,影响回答质量和用户体验。和它们相比,摘要是更适合长会话的折中方案:保语义,不保原文。官方推荐内置Summarizati...
lanzeou的头像-大赛人网lanzeou9天前
05511
2.4 记忆治理策略(上下文管理)-大赛人网

2.4 记忆治理策略(上下文管理)

随着对话的进行,历史消息不断累积, state会持续增长,为模型带来挑战: LLM的上下文窗口是有限的,完整历史可能无法装入LLM的上下文窗口,导致上下文丢失或错误。 即便模型的上下文窗口够大,...
lanzeou的头像-大赛人网lanzeou9天前
0457
2.3 对比两种方式-大赛人网

2.3 对比两种方式

举例1:基于内存存储 可以发现,每次执行的输出完全相同,而我们并没有更改thread_id ,之所以看不到上次运行的状态是因为每次运行创建新的Saver(),历史State被丢弃了。 举例2:基于外部存储器...
lanzeou的头像-大赛人网lanzeou9天前
0315
2.2 基于外部存储介质的持久化器-大赛人网

2.2 基于外部存储介质的持久化器

如果将状态检查点(checkpointer) 保存在内存, 进程结束则状态丢失,生产环境不可接受。因此,生产环境要用持久化的外部存储介质,如PostgreSQL。LangGraph提供的checkpointer后端列表如下https...
lanzeou的头像-大赛人网lanzeou9天前
04215
2.1.3 关键步骤说明-大赛人网

2.1.3 关键步骤说明

第1步:初始化记忆引擎: checkpointer = InMemorySaver() ——创建一个内存级的记忆存储。注意:InMemorySaver内存中保存,进程结束就丢失数据,适合测试。生产环境可换成数据库持久化的 Sqlit...
lanzeou的头像-大赛人网lanzeou9天前
03014
2、短期记忆-大赛人网

2、短期记忆

LangChain1.x 的短期记忆是三者的组合:State(会话内部状态) + Checkpointer(持久化机制) + Thread ID(会话作用域) State :默认存储历史消息列表messages ,通过State 管理历史消息 Chec...
lanzeou的头像-大赛人网lanzeou9天前
0405
1.2 如何解决记忆问题-大赛人网

1.2 如何解决记忆问题

1.2.1 上下文工程 实现这个记忆功能,就需要额外的模块去保存我们和模型对话的上下文信息,然后在下一次请求时,把历史信息都输入给模型,让模型输出结果。在 LangChain 中, 记忆(Memory) 就是...
lanzeou的头像-大赛人网lanzeou9天前
03514
第09章:上下文与记忆-大赛人网

第09章:上下文与记忆

1、概述 1.1 为什么需要记忆(Memory)记忆是一种记住之前互动信息的系统。随着Agent处理涉及大量用户交互的复杂任务,记忆变得至关重要!大多数的大模型应用程序都会有一个会话接口,允许我们进...
lanzeou的头像-大赛人网lanzeou9天前
0539
5.6 hook函数执行顺序-大赛人网

5.6 hook函数执行顺序

分类讨论before_* 钩子函数:从前到后执行after_* 钩子函数:从后往前执行wrap_* 钩子函数:洋葱架构,前面的包裹后面的这里的顺序并非定义顺序,而是创建Agent时传递中间件的顺序。 代码 分析 ...
lanzeou的头像-大赛人网lanzeou9天前
0535
5.5 装饰器和类的选择-大赛人网

5.5 装饰器和类的选择

情况1:中间件只用一个钩子函数,推荐用装饰器,需要多个钩子函数推荐类写法 当一个中间件只需要实现一个钩子函数时,直接使用装饰器最简单。 当一个中间件需要实现多个钩子函数时,类写法更合...
lanzeou的头像-大赛人网lanzeou9天前
05110