CS231n 学习笔记(三)

时间:2019/3/25
内容:线性分类

课时6:线性分类

线性分类器是深度学习应用程序中最基本的构建模块之一,是参数模型中最简单的例子。
CS231n 学习笔记(三)_第1张图片
在KNN算法中没有设置参数,通常会保留所有种类的是训练集并在测试时使用。但现在,在一个参数化的方法中,我们将总结我们对训练数据的认识并将其运用到参数W中,测试时只需要W。
CS231n 学习笔记(三)_第2张图片
注意:x是一个长向量;b是偏置项,它不与训练集数据交互,而只会给我们一些数据独立的偏好值。例如,当数据集中猫的数量多于狗时,则与猫对应的偏差元素就会比其他的高。
CS231n 学习笔记(三)_第3张图片
注意:线性分类器几乎是一种模板匹配方法

线性分类器只允许每个类别只能学习一个模板,如果这个类别出现了某种类型的变体,那么它将尝试求去所有不同变体的均值,并且只使用一个单独的模板来识别其中的每一个类别。对于神经网络和其他更复杂的模型,没有以上的限制,因此能达到更高的准确率。

线性分类器的另一个观点是回归到图像,作为点和高维空间的概念。它在先行决策边界上尝试画一个线性分类面来决策类别
CS231n 学习笔记(三)_第4张图片
线性分类过程中无法解决的问题:

  • 奇数偶数划分问题
  • 多分类问题
    有多模态数据,例如一个类别出现在不同的领域空间中

你可能感兴趣的:(斯坦福,CS231n,学习笔记)