无约束最优化问题总结(包含对梯度下降法最详细的解释)

因为最近在学运筹学的课程,以及最近开始看一些深度学习实现算法最底层的一些东西,发现二者之间有很多承上启下的东西。所以写了这篇博客,算是对最优化问题的一个总结。方便之后不懂的时候回来复习。
无约束最优化问题总结(包含对梯度下降法最详细的解释)_第1张图片
无约束最优化问题总结(包含对梯度下降法最详细的解释)_第2张图片
无约束最优化问题总结(包含对梯度下降法最详细的解释)_第3张图片
无约束最优化问题总结(包含对梯度下降法最详细的解释)_第4张图片
无约束最优化问题总结(包含对梯度下降法最详细的解释)_第5张图片
无约束最优化问题总结(包含对梯度下降法最详细的解释)_第6张图片
无约束最优化问题总结(包含对梯度下降法最详细的解释)_第7张图片
无约束最优化问题总结(包含对梯度下降法最详细的解释)_第8张图片
无约束最优化问题总结(包含对梯度下降法最详细的解释)_第9张图片
无约束最优化问题总结(包含对梯度下降法最详细的解释)_第10张图片
无约束最优化问题总结(包含对梯度下降法最详细的解释)_第11张图片
无约束最优化问题总结(包含对梯度下降法最详细的解释)_第12张图片
无约束最优化问题总结(包含对梯度下降法最详细的解释)_第13张图片
无约束最优化问题总结(包含对梯度下降法最详细的解释)_第14张图片
无约束最优化问题总结(包含对梯度下降法最详细的解释)_第15张图片

你可能感兴趣的:(深度学习,深度学习,机器学习)