打卡第六天-线性分类器损失函数与最优化(上)

SVM损失

  • 计算公式如图:


    打卡第六天-线性分类器损失函数与最优化(上)_第1张图片
    svm-loss
  • 当loss是0时,w的值可能是比例放大的值,w没有的限制范围。

权重正则化

打卡第六天-线性分类器损失函数与最优化(上)_第2张图片
权重正则化
  • L2是常用的方法

softmax classifier损失

打卡第六天-线性分类器损失函数与最优化(上)_第3张图片
softmax
  • 是某个分类的概率
  • 一般会选择softmax方法计算loss

你可能感兴趣的:(打卡第六天-线性分类器损失函数与最优化(上))