8.4 深度卷积神经网络

将神经网络的层数加深，可以更有效地提取层次信息，还可以减少参数数量，从而让学习更加高效。

基于CNN构建深度神经网络，可以提取出更多的图片信息，大幅提高图像识别精度。在人工智能的发展历程中，正是深度卷积神经网络，掀起了最近一轮深度学习的热潮。

• AlexNet

2012年由Alex Krizhevsky、Ilya Sutskever与 Geoffrey Hinton合作提出，是一个基于CNN构建的神经网络模型，主要架构包含8层（5个卷积层+3个全连接层），激活函数使用 ReLU，最后经全连接层输出结果，并且使用了Dropout。

AlexNet在当年的ImageNet图像分类挑战赛中大幅刷新性能纪录，引发广泛关注；这被认为是深度学习兴起的标志。

• VGG

2014年由牛津大学 Visual Geometry Group（视觉几何组）提出。VGG网络由多个卷积-池化层堆叠构成，将有权重的层（卷积层或全连接层）叠加至 16 或 19 层，也被称为VGG-16和VGG-19。

VGG结构简单，应用性强，因此得到了大量技术人员的青睐。

• GoogleNet

2014年由Google团队提出的深度卷积神经网络架构。

整体上看，GoogleNet有更加复杂的网络结构，不过它的底层依然和CNN相同。它的特点是，引入了“Inception结构”，使得网络不仅纵向上有深度，在横向上也有深度。

横向上使用多个大小不同的滤波器、最后再合并；有利于 减少参数数量、解决梯度消失问题。

• ResNet

2015年由微软团队（何恺明等人）提出，比之前的网络具有更深的结构。

ResNet有效地解决了深度网络中的梯度消失和梯度爆炸问题，在加深层的同时，提高了网络性能。