笔记 - 卷积神经网络:激活函数 与 网络性能之间的关系

参考

改变网络激活函数观察网络性能的变化


笔记 - 卷积神经网络:激活函数 与 网络性能之间的关系_第1张图片
在这里插入图片描述

全连接层一直是线性输出层(Linear)

Loss

训练集

笔记 - 卷积神经网络:激活函数 与 网络性能之间的关系_第2张图片

测试集

笔记 - 卷积神经网络:激活函数 与 网络性能之间的关系_第3张图片

准确率

训练集

笔记 - 卷积神经网络:激活函数 与 网络性能之间的关系_第4张图片
笔记 - 卷积神经网络:激活函数 与 网络性能之间的关系_第5张图片

测试集

笔记 - 卷积神经网络:激活函数 与 网络性能之间的关系_第6张图片
sigmod函数表现为啥这么糟糕

笔记 - 卷积神经网络:激活函数 与 网络性能之间的关系_第7张图片


在这里插入图片描述
笔记 - 卷积神经网络:激活函数 与 网络性能之间的关系_第8张图片
笔记 - 卷积神经网络:激活函数 与 网络性能之间的关系_第9张图片
笔记 - 卷积神经网络:激活函数 与 网络性能之间的关系_第10张图片

你可能感兴趣的:(AI,深度学习)