2.6 模型求解算法

正则化可以有效防止过拟合，增强模型的泛化能力。这时模型的评估策略，就是让结构化的经验风险最小，即增加了正则化项的损失函数最小，称为 结构风险最小化（Structural Risk Minimization，SRM）。

2.6.1 解析法

如果模型损失函数的最小值可以通过数学公式进行严格推导，得到一个解析解，那么就直接得到了最优模型的全部参数。这种方法称作解析法。

1. 特点
   1. 适用条件：目标函数必须可导，且导数方程有解析解。
   2. 优点：直接且精确；计算高效；
   3. 缺点：适用条件较为苛刻；特征维度较大时，矩阵求逆计算复杂度极高。
2. 应用示例