【机器学习——线性模型】

西瓜书学习笔记

广义线性模型

广义线性模型通过单调可微函数(联系函数 link function)将数据的真实标记y与线性回归模型的预测值联系起来：

y=g^-1 (w^Tx+b)

对数几率回归

对数几率回归中采用的是对数几率函数（logistic function）作为广义线性模型中的联系函数。

对数几率函数：y=1/(1+e^-x)

多分类学习

OVR(每次将一个类的样例作为正例，所有其他类的样例作为负例来训练N个分类器)
OVR中：
若分类器预测为正类，可以唯一确定类，对应的正类只有一个（样例作为正例的类）
若分类器预测为负类，不能唯一确定类（样例作为负例的类有多个）