神经网络的主要特点，就是可以从数据中进行“学习”。这个学习的过程，就是让训练数据自动决定最优的权重参数。 神经网络（深度学习）也是机器学习的一种；跟传统机器学习方法相比，神经网络不...

我们依然使用Digit Recognizer数据集来进行手写数字识别：https://www.kaggle.com/competitions/digit-recognizer。 文件train.csv中包含手绘数字（从0到9）的灰度图像，每张图像为28×28像素，...

深度神经网络由多个层（layer）组成，通常将其称之为 模型（Model）。整个模型接受原始 输入（特征），生成 输出（预测），并包含一些 参数。而在模型内部，每个单独的层都会接受一些输入（由前...

Softmax将一个任意的实数向量转换为一个概率分布，确保输出值的总和为1,是二分类激活函数Sigmoid在多分类上的推广。Softmax常用于多分类问题的输出层，用来表示类别的预测概率。 Softmax会放大...

def relu(x): return np.maximum(0, x)

2.2.1 激活函数的作用 激活函数是连接感知机和神经网络的桥梁，在神经网络中起着至关重要的作用。 如果没有激活函数，整个神经网络就等效于单层线性变换，不论如何加深层数，总是存在与之等效的...

我们先复习一下在机器学习部分学习过的感知机。 感知机（Perceptron）是二分类模型，接收多个信号，输出一个信号。感知机的信号只有0、1两种取值。 下图是一个接收两个输入信号的感知机的例子：...