【吴恩达深度学习笔记-改善深层神经网络】——第一周深度学习的实用层面（1.3）

【吴恩达深度学习笔记-改善深层神经网络】——第一周深度学习的实用层面（1.3）

1.3机器学习基础

训练神经网络的基本方法：
初识模型训练完成后，要看下算法的偏差高不高，如果较高，就试着评估训练集或训练数据的性能，如果的确很高，甚至无法拟合训练集，那就选择一个新的网络（含有更多隐藏层或隐藏单元的神经网络），或者花费更多的时间来训练网络，训练算法，尝试更先进的优化算法。采用新的网络架构，采用更大规模的神经网络通常会有所帮助。然后反复尝试，扩大网络规模，直到这个模型可以拟合训练集数据时。
如果偏差下降一点了，接着就看一下方差，通过查看验证集的性能。如果方差高，可以通过增加数据量来减少，或者通过正则化减少过拟合。
总之就是不断的尝试，寻找到一个低偏差低方差的神经网路框架。