机器学习-线性模型

模型概念

线性模型(linearmodel)试图学得一个通过属性的线性组合来进行预测的函数

向量形式：

线性回归

目标：

f(x) = wx(i) + b 使得 f(x(i)) ≈ y(i)

数据基本处理：

对于离散属性的处理：

若有“序”(order)，则连续化；

否则，转化为 k 维向量

优化过程：

令均方误差最小化，有

最小二乘参数估计：

模型推导