以ChatDeepSeek为例，完整参数列表由如下几部分构成：1、客户端与连接参数 (Networking)这类参数决定了代码“怎么连到服务端”，而不是“让模型怎么生成”。 2、模型推理参数 (Model Inference)...

6.1 美化模型输出响应 方法1：使用pretty_print()我们查看响应的方式是直接print(response)，返回的内容比较杂乱，可以调用pretty_print() 美化输出内容。 from langchain.chat_models import i...

复习：同步 vs 异步 同步(sync) ： 概念：发起一个任务之后，需要等待该任务完成后，才能继续执行后续任务。 表现：当前执行流会被『阻塞』。 异步(async) ： 概念：发起一个任务之后， 不必等...

invoke 和 stream 有什么区别？ invoke() ：同步调用，在模型输出完成后一次性获取响应，对于输出文本很长的场景，用户体验不好。 stream() ：流式调用，实时返回响应片段。调用后，返回一个迭...

在 LangChain 中，模型调用（Invocation）是指通过特定方法触发大语言模型生成输出的过程。根据不同的应用场景和需求，LangChain 提供了几种核心的调用方式，主要是 invoke() 、stream() 和batc...

4.1 Ollama的介绍 LangChain也支持使用Ollama 、vLLM 等框架启动的本地大模型。这里以Ollama为例进行演示。Ollama是在Github上的一个开源项目，其项目定位是：一个本地运行大模型的集成框架，可...

基本单位: 大模型通过分词器（Tokenizer）将文本拆分后的最小语义单元是token（相当于自然语言中的词或字）。不同的模型采用不同的分词算法（如BPE、WordPiece），因此同一段文本在不同模型中的...

在LangChain中，Model Class 和init_chat_model初始化模型共同的参数及解释。API文档：https://docs.langchain.org.cn/oss/python/langchain/models#parameters 说明：1、temperature 参数根据...

init_chat_model 是 LangChain 1.x 中推出的用于初始化聊天模型的统一接口。只要是LangChain支持的模型都可以处理，它会根据模型名称自动选择对应的模型类初始化实例。基本语法： from langchai...

2.3.1 OpenRouter 官网：https://openrouter.ai/OpenRouter 是一个多模型 API 聚合平台，提供统一的 OpenAI 兼容接口，可以通过一个 API Key 调用OpenAI、Claude、Gemini、DeepSeek、Qwen 等不...