4、模型初始化角度3:本地模型的部署与调用
4.1 Ollama的介绍 LangChain也支持使用Ollama 、vLLM 等框架启动的本地大模型。这里以Ollama为例进行演示。Ollama是在Github上的一个开源项目,其项目定位是:一个本地运行大模型的集成框架,可...
4.生成器表达式
生成器表达式:一种用类似列表推导式的语法,快速创建生成器对象的方式。 语法格式:(表达式 for 变量 in 可迭代对象)。 什么时候适合用生成器表达式?———— 当“每个结果,只依赖当前这一个...
7.2.3.3 前馈神经网络层
前馈神经网络(Feed-Forward Network,简称FFN)是Transformer编码器中每个子层的重要组成部分,紧接在多头注意力子层之后。它通过对每个位置的表示进行逐位置、非线性的特征变换,进一步提升模...
6.5.2 哈达玛积(元素级乘法)
两个矩阵对应位置元素相乘称为哈达玛积(Hadamard product)。 使用*、mul()实现两个形状相同的张量之间对位相乘。 import torch tensor1 = torch.tensor([[1, 2], [3, 4]]) tensor...
16. 多进程 vs 多线程,该如何选择?
CPU密集型任务,更适合用多进程。 import time from concurrent.futures import ProcessPoolExecutor, ThreadPoolExecutor # 准备一个 CPU 密集型任务 def cpu_task(n): print(f'任务{n}开始了'...
打造 Agent 最常用的一组基础工具
前面三节,我们已经把 Tool Calling 的底层链路搭起来了。 我们知道模型只是提出: { 'name': 'read_file', 'arguments': { 'path': 'app.py' } } 真正执行的是 Harness;我们也已经实现 Tool R...
3.3 归一化与标准化
3.3.1 归一化 4)API使用 from sklearn.preprocessing import MinMaxScaler X = [[2, 1], [3, 1], [1, 4], [2, 6]] # 归一化,区间设置为(-1,1) X = MinMaxScaler(feature_...












