keras从入门到放弃(九） 处理过拟合
【摘要】 上篇通过实例了解了过拟合，那如何处理将是本文处理的问题
Dropout抑制过拟合
在每一次训练中，随机丢弃一部分隐藏单元，从而加强另一部分单元的学习
原理
取平均的作用：先回到标准的模型没有dropout，我们会用相同的训练数据去训练5个不同的神经网络，一般会得到5个不同的结果，此时我们可以采用“5个结果取均值”或者“对数取胜的投票策略”去决定最懂结果...
上篇通过实例了解了过拟合，那如何处理将是本文处理的问题
Dropout抑制过拟合
在每一次训练中，随机丢弃一部分隐藏单元，从而加强另一部分单元的学习
原理
-
取平均的作用：先回到标准的模型没有dropout，我们会用相同的训练数据去训练5个不同的神经网络，一般会得到5个不同的结果，此时我们可以采用“5个结果取均值”或者“对数取胜的投票策略”去决定最懂结果
-
减少神经元之间的复杂的共适应关系：因为dropout程序导致免挂钩神经元不一定每次都在一个dropout网络中出现。这样全职的更新不在依赖于有固定关系的隐含节点的共同作用，阻止了某些特征仅仅在其他特征下才有效果的情况
怎么理解呢？
dropout类似于性别在生物进化中的角色
物种为了生存往往会倾向于适应这种环境，环境的突变则会导致物种难以做出及时反应，而性别的出现可以繁衍出适应新环境的变种，有效的阻止过拟合，即避免环境改变时物种可能面临的灭绝
代码实现
只要在添加dropout层即可
还是上文的数据
model = keras.Sequential()
model.add(lay
文章来源: maoli.blog.csdn.net，作者：刘润森！，版权归原作者所有，如需转载，请联系作者。
原文链接：maoli.blog.csdn.net/article/details/88818325
【版权声明】本文为华为云社区用户转载文章，如果您发现本社区中有涉嫌抄袭的内容，欢迎发送邮件进行举报，并提供相关证据，一经查实，本社区将立刻删除涉嫌侵权内容，举报邮箱：
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
作者其他文章
评论（0）