CS231n Lecture 3:损失函数和优化

为什么80%的码农都做不了架构师?>>>   hot3.png

课程PPT:http://cs231n.stanford.edu/slides/2017/cs231n_2017_lecture3.pdf

本节作业:

损失函数可以分辨一个分类器的优略。 损失函数计算: CS231n Lecture 3:损失函数和优化_第1张图片

当参数W使得损失函数L等于0,那么参数的整数倍也会使损失函数为0.

1.模型应该在训练集上表现良好 2.模型应该尽量简单,越简单的参数越有竞争力。

正则化: 正则化策略:可能会以增大训练误差为代价来减小测试误差。估计的正则化以偏差的增加换取方差的减少。一个有效的正则化策略是可以有效的减小方差而不过度增加偏差。

CS231n Lecture 3:损失函数和优化_第2张图片

CS231n Lecture 3:损失函数和优化_第3张图片

转载于:https://my.oschina.net/clgo/blog/1509862

你可能感兴趣的:(CS231n Lecture 3:损失函数和优化)