DW-李宏毅深度学习打卡- Task02

Task01:

观看机器学习介绍（1 天）

keyword

一、Regression

• 定义
• 应用

二、Model

• 模型假设
• 模型评估
• 模型优化

感受：仅仅是完成任务，但并不理想。
1、没有学前基础：数学知识遗忘的差不多了；可以算得上没有python基础；
2、看完视频并零零散散地记录了一些笔记，对回归有了一定的认知，但【模型】这一部分就一言难尽了。

一、Regression

定义：

Regression，找到function，input feature ，output scalar

应用：

Regression 可以进行股票预测、自动驾驶、推荐系统，它输出的是数值

• 股票预测：f（股票数据）=股票预测
• 自动驾驶：f（无人车感知的信息）=方向盘的角度
• 推荐系统：f（使用者A 商品B）= 购买可能性

二、 Model

1、模型假设

• 一元线性模型
  
• 多元线性模型
  

2、模型评估

如何评估模型的好坏。从数学的角度解释：可以用真实值和期望值的距离，进行评估。用损失函数（方差）评估模型的好坏：loss小，模型好；

方差公式，来源网络

损失函数

3、模型评估-梯度下降

以一元线性方程为例：

• 引入学习率:移动的步长
  1、随机选取初始值：
  2、计算微分，即$w^{0}的斜率
• 大于0，向右移动
• 小于0，向左移动

重复以上步骤，直至找到最低点；

多元线性方程与之同理；

———————————————————-

1、如何验证训练好的模型好与坏：

使用训练集和测试集的平均误差来验证模型的好坏

image.png

2、更复杂的模型：一元N次线性模型

引入更为复杂的模型，进行优化

image.png

会出现：模型训练效果好，但是在测试集训练效果不佳的情况——overfitting。需要进行优化：

1、引入多个线性模型，合并到一个线性模型；
2、引入更多的特征，input feature（原模型未涉及的，如血量、高度、重量）
3、需要通过regulartion（正则化），让模型变得更平滑。（函数的平移，与模型的平滑度无关，故不需要考虑bais）。