慕课网—python实现线性回归学习视频总结笔记

视频网址

https://www.imooc.com/learn/972

一、线性回归的数学表示:

慕课网—python实现线性回归学习视频总结笔记_第1张图片

将Θ和X都看成方阵,X角标1看做1,则Y=ΘX

慕课网—python实现线性回归学习视频总结笔记_第2张图片

二、两种实现线性回归的方法:

1、最小二乘法

但直接计算会产生问题

  • 矩阵是否满秩
  • 运算性能问题

2、梯度下降

  • α表示学习速率(一般为0到1之间)
  • J(θ)表示损失函数(即L函数)

三、在python中的应用

1、基本方法

  • numpy库
  • inv求矩阵的逆
  • dot求矩阵的点乘
  • mat矩阵

慕课网—python实现线性回归学习视频总结笔记_第3张图片

2、实现最小二乘法——线性回归的第一种方法

  • 在计算量大时计算机无法承受

慕课网—python实现线性回归学习视频总结笔记_第4张图片

3、实现梯度下降——实现线性回归的第二种方法

  • 推荐的方法

慕课网—python实现线性回归学习视频总结笔记_第5张图片

  • numpy.sum()加权求和

4、应用

data.csv文件

慕课网—python实现线性回归学习视频总结笔记_第6张图片

慕课网—python实现线性回归学习视频总结笔记_第7张图片

结果:

慕课网—python实现线性回归学习视频总结笔记_第8张图片

 

你可能感兴趣的:(慕课网—python实现线性回归学习视频总结笔记)