《MXNet深度学习实战》—1.4.3　神经网络

1.4.3　神经网络

通常我们都是用MXNet来训练深度学习模型，因此在MXNet中定义的接口和算法内容是相关的，所以读者最好具备基础的神经网络知识，这些知识包括如下几个方面。

1）神经网络基础层的含义。比如卷积层、池化层、全连接层、激活层、损失函数层的计算过程、网络层参数的含义及作用等。

2）优化算法。比如最常用的随机梯度下降（Stochastic Gradient Descent，SGD），了解梯度反向传播和优化的基础知识。

3）损失函数。明白损失函数在深度学习算法中的作用，熟悉常用算法的损失函数，比如分类算法中常用的交叉熵损失函数（cross entropy loss），目标检测算法中常用的Smooth L1损失函数等。

当然如果你真的一点也不了解神经网络那也不用担心，本书的后续章节会介绍算法相关的内容，另外还会介绍最近几年较为流行且实用的网络结构以帮助读者理解和入门。