多变量线性回归

目录

多功能

多元梯度下降法 

多元梯度下降法Ⅰ——特征缩放

 均值归一化(Mean normalization)

多元梯度下降法Ⅱ——学习率

 多项式回归和特征选择

正规方程(区别于迭代方法的直接解法) 

梯度下降法与正则方程的优劣对比 

正规方程在矩阵不可逆时的解法 


多功能

多变量线性回归_第1张图片

多变量线性回归_第2张图片

多元梯度下降法 

 多变量线性回归_第3张图片

多变量线性回归_第4张图片

右边部分只是有多个特征量用于更新参数

多元梯度下降法Ⅰ——特征缩放

目的:更快的收敛,加快代价函数最小化进程

多变量线性回归_第5张图片

 多变量线性回归_第6张图片

 均值归一化(Mean normalization)

多变量线性回归_第7张图片

多元梯度下降法Ⅱ——学习率

多变量线性回归_第8张图片

 多变量线性回归_第9张图片

横轴为迭代次数 

多变量线性回归_第10张图片

多变量线性回归_第11张图片

 多项式回归和特征选择

多变量线性回归_第12张图片

 多变量线性回归_第13张图片

多变量线性回归_第14张图片

正规方程(区别于迭代方法的直接解法) 

多变量线性回归_第15张图片

多变量线性回归_第16张图片

 多变量线性回归_第17张图片

 多变量线性回归_第18张图片

多变量线性回归_第19张图片

梯度下降法与正则方程的优劣对比 

多变量线性回归_第20张图片

正规方程在矩阵不可逆时的解法 

多变量线性回归_第21张图片

多变量线性回归_第22张图片

你可能感兴趣的:(机器学习,线性回归,算法,回归)