《AI安全之对抗样本入门》—1.3.3　池化

1.3.3　池化

通过局部连接和参数共享后，我们针对1000×1000的图像，使用卷积核大小为10×10，卷积步长为1，进行卷积操作，得到的隐藏层节点个数为1000×1000 = 106，计算量还是太大了。为了解决这个问题，首先回忆一下，我们之所以决定使用卷积后的特征是因为图像具有一种“静态性”的属性，这也就意味着在一个图像区域有用的特征极有可能在另一个区域同样适用。因此，为了描述大的图像，一个很自然的想法就是对不同位置的特征进行聚合统计，例如，人们可以计算图像一个区域上的某个特定特征的平均值（或最大值）。这种聚合的操作就叫作池化，常见的池化大小为2×2、3×3等，假设隐藏层节点个数为4×4，使用2×2大小池化，取最大值，过程如图1-18所示。

图1-18　池化处理示例

隐藏层节点个数为1000×1000的神经网络，经过2×2池化后，得到的隐藏层节点个数为500×500。