2.2 基于外部存储介质的持久化器
如果将状态检查点(checkpointer) 保存在内存, 进程结束则状态丢失,生产环境不可接受。因此,生产环境要用持久化的外部存储介质,如PostgreSQL。LangGraph提供的checkpointer后端列表如下https...
2.3 对比两种方式
举例1:基于内存存储 可以发现,每次执行的输出完全相同,而我们并没有更改thread_id ,之所以看不到上次运行的状态是因为每次运行创建新的Saver(),历史State被丢弃了。 举例2:基于外部存储器...
2.4 记忆治理策略(上下文管理)
随着对话的进行,历史消息不断累积, state会持续增长,为模型带来挑战: LLM的上下文窗口是有限的,完整历史可能无法装入LLM的上下文窗口,导致上下文丢失或错误。 即便模型的上下文窗口够大,...
2.4.3 摘要
把早期历史压缩成摘要,再替换原始消息。 消息裁剪和删除都会导致上下文缺失,影响回答质量和用户体验。和它们相比,摘要是更适合长会话的折中方案:保语义,不保原文。官方推荐内置Summarizati...
2.5 了解:state的理解
state是agent底层有状态运行图的状态信息,是AgentState类型的实例,定义如下: 举例: 分析 我们在模型调用之前通过jump_to直接跳转至工具节点 在工具调用前打印状态信息,此时的jump_to非空 ...
3、长期记忆
3.1 基本理解 3.1.1 什么是长期记忆短期记忆记录的是会话级别(线程,Thread) 的数据, 会话间不共享。而长期记忆记录的是用户特定或应用级别的数据,任何会话都可以随时访问。 比如: 你喜欢...
3.2 基础API的使用
参数说明 namespace: 文档所在的层级路径 key: 该路径下的唯一键 value: 要保存的 JSON-like 字典 index: 控制语义检索索引 None(默认选项): 使用 store 初始化时配置的索引配置,如果初始化时...
2、按照namespace前缀搜索
代码1 代码2 ③ 举例2:按照filter过滤代码1 代码2 代码3 ④ 举例3:按照语义搜索举例1:自定义嵌入函数自定义嵌入函数,目的是查看嵌入向量 from langgraph.store.memory import 1 InMemorySto...
3.3 在Agent运行图中访问长期记忆
我们可以在工具或中间件中访问长期记忆。3.3.1 在工具中访问长期记忆① 基于InMemoryStore 其中,CustomState扩展了 Agent 的标准状态。除了默认的 messages (历史消息列表)之外,还额外增加...
3.4 何时写入记忆
官方介绍了两种方式。 在主流程里写(hot path)也就是:用户发消息,AI 一边回答,一边决定要不要记下来。优点: 立即生效 下一轮马上能用 用户可感知,透明 缺点: 增加延迟 逻辑变复杂 在后...













