Coursera-吴恩达-深度学习-改善深层神经网络:超参数调试、正则化以及优化-week2-测验

 本文章内容:

Coursera吴恩达深度学习课程,

第二课,改善深层神经网络:超参数调试、正则化以及优化(Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization)

第二周:优化算法 (Optimization algorithms)

部分的测验,题目及答案截图。

 

Coursera-吴恩达-深度学习-改善深层神经网络:超参数调试、正则化以及优化-week2-测验_第1张图片

 

Coursera-吴恩达-深度学习-改善深层神经网络:超参数调试、正则化以及优化-week2-测验_第2张图片

one epoch means a single pass through the training set. mini batch 和batch gradient 的epoch 是相同的,但是mini batch 一次迭代的时间快于 batch gradient的一次迭代。

 

Coursera-吴恩达-深度学习-改善深层神经网络:超参数调试、正则化以及优化-week2-测验_第3张图片

Coursera-吴恩达-深度学习-改善深层神经网络:超参数调试、正则化以及优化-week2-测验_第4张图片

Coursera-吴恩达-深度学习-改善深层神经网络:超参数调试、正则化以及优化-week2-测验_第5张图片

答:对于批梯度下降来说,若出现波动,则肯定有问题了,有可能是学习率太大。

Coursera-吴恩达-深度学习-改善深层神经网络:超参数调试、正则化以及优化-week2-测验_第6张图片

 

Coursera-吴恩达-深度学习-改善深层神经网络:超参数调试、正则化以及优化-week2-测验_第7张图片

 

 

Coursera-吴恩达-深度学习-改善深层神经网络:超参数调试、正则化以及优化-week2-测验_第8张图片

Coursera-吴恩达-深度学习-改善深层神经网络:超参数调试、正则化以及优化-week2-测验_第9张图片

Coursera-吴恩达-深度学习-改善深层神经网络:超参数调试、正则化以及优化-week2-测验_第10张图片

Coursera-吴恩达-深度学习-改善深层神经网络:超参数调试、正则化以及优化-week2-测验_第11张图片

问:momentum总是比GD好吗?

答:是。

Coursera-吴恩达-深度学习-改善深层神经网络:超参数调试、正则化以及优化-week2-测验_第12张图片

 

 

Coursera-吴恩达-深度学习-改善深层神经网络:超参数调试、正则化以及优化-week2-测验_第13张图片

 

 

 

 

你可能感兴趣的:(Deep,learning)