《卷积神经网络与计算机视觉》 —3.2多层感知机

3.2多层感知机

3.2.1基础架构

图3.1显示了MLP网络架构的一个示例，该架构由三个隐藏层组成，夹在输入和输出层之间。 简单来说，可以将网络视为一个黑盒子，它在一组输入上运行并产生一些输出。我们将在下面详细介绍这种架构的一些有趣方面。

图3.1具有密集连接的简单前馈神经网络

分层架构：神经网络包含层次化的处理级别。每个级别称为“网络层”，由许多处理“节点”（也称为“神经元”或“单元”）组成。通常，输入通过输入层送入，最后一层是输出层，用于进行预测。 中间层执行处理并称为隐藏层。由于这种分层架构，这种神经网络称为多层感知机(MLP)。

节点：每层中的各个处理单元称为神经网络架构中的节点。 节点基本上实现了给定输入的“激活函数”，决定节点是否会触发。

密集连接：神经网络中的节点是互连的，可以相互通信。每个连接都有一个权重，指定两个节点之间连接的强度。对于前馈神经网络的简单情况，信息在一个方向上从输入层到输出层顺序传送。因此，层中的每个节点都直接连接到前一个层中的所有节点。