《Keras深度学习实战》—3.9　使用RMSProp进行优化

3.9　使用RMSProp进行优化

本节将介绍使用RMSProp进行优化的相关示例代码。

RMSProp是由Geoff Hinton提出的（未发表的）自适应学习方法。RMSProp和AdaDelta是在同一时期独立开发的，其目的都是为了解决AdaGrad中学习率急剧下降的

问题。

RMSProp中的第一个更新向量与之前介绍的AdaDelta相同：

RMSProp算法将学习率除以平方梯度的指数衰减平均值。建议将γ设定为0.9，学习率η设置为0.001。

3.9.1　准备工作

引入前面的示例通用代码指定的类、方法等。