1. 导数 1.1.1 导数的概念 导数（derivative）是微积分中的一个概念。函数在某一点的导数是指这个函数在这一点附近的变化率（即函数在这一点的切线斜率）。导数的本质是通过极限的概念对函数进...

2.1 机器学习三要素 机器学习的方法一般主要由三部分构成：模型、策略和算法，可以认为： 机器学习方法 = 模型 + 策略 + 算法 模型（model）：总结数据的内在规律，用数学语言描述的参数系统 策...

1.2.1 偏导数 1.2.2 方向导数 1.2.3 梯度

2.4.1 什么是特征工程 特征工程（Feature Engineering）是机器学习过程中非常重要的一步，指的是通过对原始数据的处理、转换和构造，生成新的特征或选择有效的特征，从而提高模型的性能。简单来...

标量与向量标量与向量的概念标量（scalar） 标量是一个单独的数，只有大小。 向量（vector） 1）向量运算向量转置：列向量转置结果为行向量 2.1.3 向量范数

2.5.1 损失函数 对于模型一次预测结果的好坏，需要有一个度量标准。 对于监督学习而言，给定一个输入X，选取的模型就相当于一个“决策函数”f，它可以输出一个预测结果f(X)，而真实的结果（标签...