清风数学建模学习笔记-岭回归与lasso回归

内容:岭回归与lasso回归

  • 介绍:

岭回归与lasso回归与OLS回归(最小二乘估计法)模型的区别在与在损失函数上加上不同的惩罚项,该惩罚项能够识别模型中不重要的变量,对模型起到简化的作用,另一方面加入惩罚项之后可以使模型变得可估计。

清风数学建模学习笔记-岭回归与lasso回归_第1张图片

二.岭回归简单介绍(无推理过程):

1.岭回归:

清风数学建模学习笔记-岭回归与lasso回归_第2张图片

  1. 如何选择参数λ

清风数学建模学习笔记-岭回归与lasso回归_第3张图片

三lasso回归的原理与STATA实现:

1.

清风数学建模学习笔记-岭回归与lasso回归_第4张图片

2.lasso可以理解为升级版的逐步回归,因为它可以筛选变量,将不重要的变量的系数直接压缩为0

四.使用stata实现:

1.标准化处理,matlab的zscore函数,或SPSS的分析-描述统计-描述。

stata也可以不过一次只能对一个变量进行标准化。

  1. K折交叉验证

清风数学建模学习笔记-岭回归与lasso回归_第5张图片

  1. 使用K则交叉验证实现:

清风数学建模学习笔记-岭回归与lasso回归_第6张图片

清风数学建模学习笔记-岭回归与lasso回归_第7张图片

  1. 参数解释

清风数学建模学习笔记-岭回归与lasso回归_第8张图片

清风数学建模学习笔记-岭回归与lasso回归_第9张图片

  1. 如和使用?

清风数学建模学习笔记-岭回归与lasso回归_第10张图片

可将lasso回归看作是筛选变量的一种方法,进阶版的逐步回归。

你可能感兴趣的:(数学建模,学习,笔记)