CNN学习笔记（一）——线性分类

1.分数函数

W为权重矩阵，Xi是数据输入，b为偏置。

例如：

我们就可以根据分数函数来对目标进行分类。如果图像在某个维度超过一定的阈值，则认为该图像为某物体。

例如：

上图中，将在某一条线外的图片认定为某一类。这就实现了对训练图像的分类。

2.代价函数（Loss function/Cost function/objective）

由分数和标签来确定代价值，即在用训练图片的分数和标签得到代价函数值。对于代价函数，我们可以利用多重支持向量机（Multiclass SVM）得到。

上式为Multiclass SVM Loss的表达式。

例如：

13为Yi=0的函数值，将函数值与其不一样的-7，11与Yi做差，得到的值再与偏置（此例中偏置取10）。