李宏毅机器学习——回归定义和应用例子

回归定义

Regression 就是找到一个函数 function,通过输入特征 x,输出一个数值Scalar。

应用举例

  1. 股市预测(Stock market forecast)
    输入:过去10年股票的变动、新闻咨询、公司并购咨询等
    输出:预测股市明天的平均值
  2. 自动驾驶(Self-driving Car)
    输入:无人车上的各个sensor的数据,例如路况、测出的车距等
    输出:方向盘的角度
  3. 商品推荐(Recommendation)
    输入:商品A的特性,商品B的特性
    输出:购买商品B的可能性
  4. Pokemon精灵攻击力预测(Combat Power of a pokemon):
    输入:进化前的CP值、物种(Bulbasaur)、血量(HP)、重量(Weight)、高度(Height)
    输出:进化后的CP值

模型步骤

step1:模型假设,选择模型框架(线性模型)
step2:模型评估,如何判断众多模型的好坏(损失函数)
step3:模型优化,如何筛选最优的模型(梯度下降)

Step 1:模型假设 - 线性模型

一元线性模型(单个特征)(这里以宝可梦的cp值举例)
以一个特征 xcp为例,线性模型假设 y=b+w⋅xcp,所以 w 和 b 可以猜测很多模型:
在这里插入图片描述
虽然可以做出很多假设,但在这个例子中,显然 f3:y=−0.8−1.2⋅xcp的假设是不合理的,不能进化后CP值是个负值吧。
多元线性模型(多个特征)
在实际应用中,输入特征肯定不止 xcp这一个。例如,进化前的CP值、物种(Bulbasaur)、血量(HP)、重量(Weight)、高度(Height)等,特征会有很多。
李宏毅机器学习——回归定义和应用例子_第1张图片
所以我们假设 线性模型 Linear model:y=b+∑wixi
李宏毅机器学习——回归定义和应用例子_第2张图片
注意:接下来的内容需要看清楚是【单个特征】还是【多个特征】的示例

Step 2:模型评估 - 损失函数

单个特征: xcp
收集和查看训练数据
这里定义 x1是进化前的CP值,yˆ1 进化后的CP值,ˆ 所代表的是真实值
李宏毅机器学习——回归定义和应用例子_第3张图片
将10组原始数据在二维图中展示,图中的每一个点在这里插入图片描述对应着 进化前的CP值 和 进化后的CP值。
李宏毅机器学习——回归定义和应用例子_第4张图片

如何判断众多模型的好坏

有了这些真实的数据,那我们怎么衡量模型的好坏呢?从数学的角度来讲,我们使用距离。求进化后的CP值模型预测的CP值差,来判定模型的好坏。也就是使用损失函数(Loss function) 来衡量模型的好坏,统计10组原始数据在这里插入图片描述的和,和越小模型越好。如下图所示:李宏毅机器学习——回归定义和应用例子_第5张图片
最终定义 损失函数 Loss function:在这里插入图片描述
我们将 w, b 在二维坐标图中展示,如图所示:
李宏毅机器学习——回归定义和应用例子_第6张图片

  • 图中每一个点代表着一个模型对应的 w 和 b
  • 颜色越深代表模型更优
    可以与后面的等高线图进行对比

Step 3:最佳模型 - 梯度下降

单个特征: xcp

如何筛选最优的模型(参数w,b)

已知损失函数是在这里插入图片描述
需要找到一个令结果最小的f* ,在实际的场景中,我们遇到的参数肯定不止 w, b。
李宏毅机器学习——回归定义和应用例子_第7张图片
先从最简单的只有一个参数w入手,定义在这里插入图片描述
李宏毅机器学习——回归定义和应用例子_第8张图片
首先在这里引入一个概念 学习率 :移动的步长,如图7中 η

  • 步骤1:随机选取一个 w0
  • 步骤2:计算微分,也就是当前的斜率,根据斜率来判定移动的方向
    大于0向右移动(增加w)
    小于0向左移动(减少w)
  • 步骤3:根据学习率移动
  • 重复步骤2和步骤3,直到找到最低点
  • 李宏毅机器学习——回归定义和应用例子_第9张图片
    步骤1中,我们随机选取一个 w0,如图所示,我们有可能会找到当前的最小值,并不是全局的最小值,这里我们保留这个疑问,后面解决。

解释完单个模型参数w,引入2个模型参数 w 和 b , 其实过程是类似的,需要做的是偏微分,过程如下图李宏毅机器学习——回归定义和应用例子_第10张图片
整理成一个更简洁的公式:
李宏毅机器学习——回归定义和应用例子_第11张图片

梯度下降推演最优模型的过程

李宏毅机器学习——回归定义和应用例子_第12张图片

  • 每一条线围成的圈就是等高线,代表损失函数的值,颜色约深的区域代表的损失函数越小
  • 红色的箭头代表等高线的法线方向

梯度下降算法在现实世界中面临的挑战

我们通过梯度下降gradient descent不断更新损失函数的结果,这个结果会越来越小,那这种方法找到的结果是否都是正确的呢?前面提到的当前最优问题外,还有没有其他存在的问题呢?
李宏毅机器学习——回归定义和应用例子_第13张图片
其实还会有其他的问题:

  • 问题1:当前最优(Stuck at local minima)
  • 问题2:等于0(Stuck at saddle point)
  • 问题3:趋近于0(Very slow at the plateau)
  • 李宏毅机器学习——回归定义和应用例子_第14张图片
    注意:其实在线性模型里面都是一个碗的形状(山谷形状),梯度下降基本上都能找到最优点,但是再其他更复杂的模型里面,就会遇到 问题2 和 问题3 了(卡在局部最优点)

w和b偏微分的计算方法

李宏毅机器学习——回归定义和应用例子_第15张图片

如何验证训练好的模型的好坏

使用训练集和测试集的平均误差来验证模型的好坏 我们使用将10组原始数据,训练集求得平均误差为31.9,如图所示:
李宏毅机器学习——回归定义和应用例子_第16张图片
然后再使用10组Pokemons测试模型,测试集求得平均误差为35.0 如图所示:
李宏毅机器学习——回归定义和应用例子_第17张图片

更强大复杂的模型:1元N次线性模型

在模型上,我们还可以进一部优化,选择更复杂的模型,使用1元2次方程举例,如图17,发现训练集求得平均误差为15.4,测试集的平均误差为18.4
李宏毅机器学习——回归定义和应用例子_第18张图片
这里我们又提出一个新的问题:是不是能画出直线就是线性模型,各种复杂的曲线就是非线性模型? 其实还是线性模型,因为把xcp的二次方看作一个特征xnp,那么y=b+w1xcp+w2xnp其实就是线性模型。

过拟合问题出现

在模型上,我们再可以进一部优化,使用更高次方的模型,如图所示

  • 训练集平均误差【15.4】【15.3】【14.9】【12.8】
  • 测试集平均误差【18.4】【18.1】【28.8】【232.1】
    李宏毅机器学习——回归定义和应用例子_第19张图片
    李宏毅机器学习——回归定义和应用例子_第20张图片
    李宏毅机器学习——回归定义和应用例子_第21张图片
    在训练集上面表现更为优秀的模型,为什么在测试集上效果反而变差了?这就是模型在训练集上过拟合的问题。

如图所示,每一个模型结果都是一个集合,5次模型包⊇4次模型⊇3次模型,所以在4次模型里面找到的最佳模型,肯定不会比5次模型里面找到更差
李宏毅机器学习——回归定义和应用例子_第22张图片
将错误率结果图形化展示,发现3次方以上的模型,已经出现了过拟合的现象:
李宏毅机器学习——回归定义和应用例子_第23张图片

步骤优化

输入更多Pokemons数据,相同的起始CP值,但进化后的CP差距竟然是2倍。如图,其实将Pokemons种类通过颜色区分,就会发现Pokemons种类是隐藏得比较深得特征,不同Pokemons种类影响了进化后的CP值的结果。李宏毅机器学习——回归定义和应用例子_第24张图片

Step1优化:2个input的四个线性模型是合并到一个线性模型中

李宏毅机器学习——回归定义和应用例子_第25张图片
李宏毅机器学习——回归定义和应用例子_第26张图片
李宏毅机器学习——回归定义和应用例子_第27张图片

Step2优化:如果希望模型更强大表现更好(更多参数,更多input)

在最开始我们有很多特征,图形化分析特征,将血量(HP)、重量(Weight)、高度(Height)也加入到模型中李宏毅机器学习——回归定义和应用例子_第28张图片
李宏毅机器学习——回归定义和应用例子_第29张图片
更多特征,更多input,数据量没有明显增加,仍旧导致overfitting

Step3优化:加入正则化

更多特征,但是权重 w 可能会使某些特征权值过高,仍旧导致overfitting,所以加入正则化李宏毅机器学习——回归定义和应用例子_第30张图片
李宏毅机器学习——回归定义和应用例子_第31张图片

  • w 越小,表示 functionfunction 较平滑的, functionfunction输出值与输入值相差不大
  • 在很多应用场景中,并不是 w越小模型越平滑越好,但是经验值告诉我们 w越小大部分情况下都是好的。
  • b 的值接近于0 ,对曲线平滑是没有影响

李宏毅 《机器学习》

你可能感兴趣的:(机器学习)