《Keras深度学习实战》—3.8.2　怎么做

3.8.2　怎么做

和前几节一样，利用适当的网络拓扑创建一个序贯模型。本节中使用的优化器是Keras中的AdaDelta实现：

AdaDelta优化器

Keras文档中建议将此优化器的参数保留为默认值。

优化器的初始化参数：

• lr：大于等于0的浮点数，表示学习率。建议将其保留为默认值。

• rho：大于等于0的浮点数。

• epsilon：大于等于0的浮点数，表示模糊因子。如果未指定（None），则默认为K.epsilon()。

• decay：大于等于0的浮点数，表示每次数据更新时，衰减的学习率。

这里创建了一个具有两个隐藏层，丢弃率为0.2的网络。

该模型使用的是AdaDelta优化器。

以下是上述代码的输出：

绘制AdaDelta的模型准确率曲线：

基于AdaDelta优化器的训练集准确率和测试集准确率：

同样，AdaDelta的模型损失曲线如下所示：

AdaDelta的最终测试损失和测试准确率计算如下：

上述程序的输出显示如下：

使用AdaDelta获得的准确率高于SGD、Adam的结果，大约为0.9846。