他的回复:
华为云ID:hw39081408AI全栈成长计划-AI进阶篇 第1周 笔记本周学习了ModelArts的服务内容和使用预制算法训练图像分类模型,主要使用了ResNext50网络。ResNet是一种残差网络,咱们可以把它理解为一个子网络,这个子网络经过堆叠可以构成一个很深的网络。ResNet的结构如下。我们知道,网络越深,咱们能获取的信息越多,而且特征也越丰富。但是根据实验表明,随着网络的加深,优化效果反而越差,测试数据和训练数据的准确率反而降低了。这是由于网络的加深会造成梯度爆炸和梯度消失的问题。对输入数据和中间层的数据进行归一化操作,这种方法可以保证网络在反向传播中采用随机梯度下降(SGD),从而让网络达到收敛目前针对这种现象已经有了解决的方法:。但是,这个方法仅对几十层的网络有用,当网络再往深处走的时候,这种方法就无用武之地了。为了让更深的网络也能训练出好的效果,提出了一个新的网络结构——ResNet。这个网络结构的想法主要源于VLAD(残差的想法来源)和Highway Network(跳跃连接的想法来源)。