1.3 技术演进历史
1.3.1 规则系统阶段 在20世纪50年代至80年代初,自然语言处理主要依赖人工编写的语言规则,这些规则由语言学家和程序员手动制定。这一阶段的代表系统有早期的机器翻译系统(如Georgetown-IBM实...
第 2 章 环境准备
2.1 创建conda环境 终端输入如下命令,创建项目的虚拟环境,并指定Python版本: conda create -n nlp python=3.12 激活该虚拟环境: conda activate nlp 2.2 安装所需依赖 本课程依赖以下软件和...
3.2.2 中文分词
尽管中文的语言结构与英文存在显著差异,我们仍可以借助“分词粒度”的视角,对中文的分词方式进行归类和分析。 字符级分词 字符级分词是中文处理中最简单的一种方式,即将文本按照单个汉字进行...
3.2.3 分词工具
概述 目前市面上可用于中文分词的工具种类繁多,按照实现方式大致可以分为如下两类: 一类是基于词典或模型的传统方法,主要以“词”为单位进行切分; 另一类是基于子词建模算法(如BPE)的方式...
2.2.6 Softmax函数
Softmax将一个任意的实数向量转换为一个概率分布,确保输出值的总和为1,是二分类激活函数Sigmoid在多分类上的推广。Softmax常用于多分类问题的输出层,用来表示类别的预测概率。 Softmax会放大...
2.3 神经网络的简单实现
深度神经网络由多个层(layer)组成,通常将其称之为 模型(Model)。整个模型接受原始 输入(特征),生成 输出(预测),并包含一些 参数。而在模型内部,每个单独的层都会接受一些输入(由前...
2.4 应用案例:手写数字识别
我们依然使用Digit Recognizer数据集来进行手写数字识别:https://www.kaggle.com/competitions/digit-recognizer。 文件train.csv中包含手绘数字(从0到9)的灰度图像,每张图像为28×28像素,...
第 3 章 神经网络的学习
神经网络的主要特点,就是可以从数据中进行“学习”。这个学习的过程,就是让训练数据自动决定最优的权重参数。 神经网络(深度学习)也是机器学习的一种;跟传统机器学习方法相比,神经网络不...











