多元线性回归

多元线性回归

概念：我们把两个或两个以上的回归称为多元线性回归，因为在社会实际生活中，社会经济现象往往受多个因素的影响，可以表示为
例如分析一部手机的销量与外观、广告、内存性能之间的关系， x1、x2、x3等就代表外观、广告、内存性能等特征值，θ1 θ2 θ3表示各特征值在函数中占的权重，用得出的值来判断手机卖的好不好，解释性非常强。为了方便，利用矩阵也可将线性回归方程式记作 。
那回归的意思又是什么呢？回归是统计学中的重要工具之一，回归的目的就是建立一个回归方程用来预测目标值，回归的求解就是求这个回归方程的回归系数。
相应的，给出一个点集D，用函数去拟合这个点集，并使得点集与拟合函数之间的误差最小，如果这个函数图像是一条直线则称之为线性回归。

线性回归的推导过程：在线性回归中，均方误差是比较常使用的一个损失函数，就是通过预测值和计算出的实际值之间的差来对模型中的参数进行求解，即为：

为使误差达到最小，我们要求解均方误差最小化时的参数，再利用最小二乘法对其进行估计，具体做法是对要求解的参数进行求导并且令其导数为0：

由图中的推导过程得到最优参数解。

线性回归的应用：
线性回归的应用非常广泛，小到日常生活中的物价变动、股市走向，大到企业的生产调节、控制，国家的经济决策等，都可以利用线性回归通过收集数据对实际问题进行预测、分析，这里简单举两个例子使大家更了解线性回归。
容量预测：一个发展中的电信市场，网络容量往往是线性增加的，我们可以通过拟合历史网络容量指标来判断未来网络规模，从而提前进行网络扩容，防患于未然。
身高预测：可以通过收集数据写出拟合方程判断父亲的身高与孩子的身高具不具有线性相关性。