深度学习之经典网络-AlexNet详解
AlexNet 是一种经典的卷积神经网络（CNN）架构，在 2012 年的 ImageNet 大规模视觉识别挑战赛（ILSVRC）中表现优异，将 CNN 引入深度学习的新时代。AlexNet 的设计在多方面改进了卷积神经网络的架构，使其能够在大型数据集上有效训练。以下是 AlexNet 的详解：
1. AlexNet 架构概述
AlexNet 有 8 层权重层，包括 5 层卷积层和 3 层全连接层（FC 层），并引入了一些重要的创新，包括激活函数、Dropout 正则化和重叠池化。它通过增加网络的深度和宽度，结合 GPU 加速，极大提升了 CNN 的能力。
2. AlexNet 架构细节
（1）输入层：
- 输入图像的尺寸为 227x227x3（RGB 3 通道图像）。
- AlexNet 采用的是 ImageNet 数据集，其图像分辨率较高，因此需要更大的卷积核和池化核。
（2）卷积层（Conv Layers）：
- 第一层卷积层（Conv1）：卷积核大小为 11x11，步长为 4，使用 96 个滤波器。输出的特征图尺寸为 55x55x96。经过 ReLU 激活函数处理。
- 第二层卷积层（Conv2）：卷积核大小为 5x5，步长为 1，使用 256 个滤波器。由于输入图像较大，为减小计算量，每次滑动 1 像素，并采用了最大池化。输出的特征图尺寸为 27x27x256。
- 第三、四、五层卷积层（Conv3、Conv4、Conv5）：分别采用 3x3 的卷积核，步长为 1，滤波器数分别为 384、384 和 256。
（3）激活函数（ReLU）：
- AlexNet 是第一个在每一层卷积层之后使用 ReLU（Rectified Linear Unit）激活函数的网络。与 sigmoid 激活函数不同，ReLU 不会出现梯度消失问题，且能加快训练速度。
（4）池化层（Pooling Layers）：
- 使用最大池化（Max Pooling），窗口大小为 3x3，步长为 2。
- AlexNet 引入了“重叠池化”，即池化窗口的步长小于窗口的大小（3x3 池化窗口和 2 步长），使得池化层能够更好地提取空间信息。
（5）
