李宏毅机器学习学习打卡Task02-回归篇

一、回归定义与应用例子

1.回归定义

Regression 就是找到一个函数 function，通过输入特征 x，输出一个数值 Scalar。

2.回归应用例子

1.股市预测
输入：过去10年股票的变动、新闻咨询、公司并购咨询等
输出：预测股市明天的平均值
2.自动驾驶
输入：无人车上的各个sensor的数据，例如路况、测出的车距等
输出：方向盘的角度
3.商品推荐
输入：商品A的特性，商品B的特性
输出：购买商品B的可能性
4.Pokemon精灵攻击力预测：
输入：进化前的CP值、物种、血量、重量、高度
输出：进化后的CP值

二、模型步骤

Step1：模型假设，选择模型框架（线性模型）
Step2：模型评估，如何判断众多模型的好坏（损失函数）
Step3：模型优化，如何筛选最优的模型（梯度下降）

三、验证训练模型的好坏

使用训练集和测试集的平均误差来验证模型的好坏

四、更强大复杂的模型

1元N次线性模型

五、过拟合问题

在训练集上面表现更为优秀的模型（通常是更复杂的模型），在测试集上效果反而变差了。
这就是模型在训练集上过拟合的问题。

六、步骤优化

Step1优化：2个input的四个线性模型是合并到一个线性模型中
Step2优化：如果希望模型更强大表现更好（更多参数，更多input）
Step3优化：加入正则化