排序
2、LangChain是什么?
2.1 LangChain的发展时间线 第1阶段:诞生(2022年10月)2022年10月,哈佛大学的机器学习项目工程师Harrison Chase(哈里森·蔡斯) 创建了由大语言模型驱动的应用程序的开源框架:LangChain。...
3、模型初始化角度1:init_chat_model()
init_chat_model 是 LangChain 1.x 中推出的用于初始化聊天模型的统一接口。只要是LangChain支持的模型都可以处理,它会根据模型名称自动选择对应的模型类初始化实例。基本语法: from langchai...
4、模型初始化角度3:本地模型的部署与调用
4.1 Ollama的介绍 LangChain也支持使用Ollama 、vLLM 等框架启动的本地大模型。这里以Ollama为例进行演示。Ollama是在Github上的一个开源项目,其项目定位是:一个本地运行大模型的集成框架,可...
5.4 异步调用
复习:同步 vs 异步 同步(sync) : 概念:发起一个任务之后,需要等待该任务完成后,才能继续执行后续任务。 表现:当前执行流会被『阻塞』。 异步(async) : 概念:发起一个任务之后, 不必等...
第05章:Tools
1、Tools概述 1.1 工具的重要性要构建更强大的AI工程应用,只有生成文本这样的“ 纸上谈兵”能力自然是不够的。工具是赋予大语言模型与外部世界交互能力的关键组件,从而能让智能体执行搜索、计...
2.3.4 更丰富的初始化参数类型
前面讲了ChatPromptTemplate的两种创建方式。我们看到不管使用实例初始化方法,还是使用from_messages(),参数类型都是列表类型。列表中的元素可以是多种类型,前面我们主要测试了元组类型。源...
6.3.2 模型类的参数构成
以ChatDeepSeek为例,完整参数列表由如下几部分构成:1、客户端与连接参数 (Networking)这类参数决定了代码“怎么连到服务端”,而不是“让模型怎么生成”。 2、模型推理参数 (Model Inference)...
5、大模型应用场景介绍
5.1 RAG开发 1)背景大模型的知识冻结:随着 LLM 规模扩大,训练成本与周期相应增加,模型无法实时学习到最新的信息或动态变化。导致 LLM 难以应对诸如“请推荐现在的热门影片”等时间敏感的问...
5、模型的调用
在 LangChain 中,模型调用(Invocation)是指通过特定方法触发大语言模型生成输出的过程。根据不同的应用场景和需求,LangChain 提供了几种核心的调用方式,主要是 invoke() 、stream() 和batc...
5.2 流式调用
invoke 和 stream 有什么区别? invoke() :同步调用,在模型输出完成后一次性获取响应,对于输出文本很长的场景,用户体验不好。 stream() :流式调用,实时返回响应片段。调用后,返回一个迭...










