机器学习基础

什么是机器学习?----本质就是寻找一个函数。 

机器学习基础_第1张图片

可以训练什么样的函数呢?

机器学习基础_第2张图片

可以训练一个回归的函数,也可以训练一个分类的函数。

这个例子的需要分类的类别是19*19的选项。

在机器学习领域里面不止回归和分类。

 举例:预测函数

机器学习基础_第3张图片

利用已存在的数据,预测未来几天的数据。

这个函数的参数如何定义?

机器学习基础_第4张图片

b和w是未知参数,x是输入,y是输出。

 如何定义一个loss?

机器学习基础_第5张图片

 每一天的误差都可以加起来生成的L就代表了损失。 

 机器学习基础_第6张图片

计算每一天的损失时所用的公式是多样的 :

机器学习基础_第7张图片

 

红色系---大                蓝色系---小

优化器

机器学习基础_第8张图片

根据斜率来调整w的大小。

如何调整w的变化步长呢?

机器学习基础_第9张图片

 除了关于当前的斜率外还和自己设置的学习率相关。

机器学习基础_第10张图片

局部最优问题!

机器学习基础_第11张图片

机器学习基础_第12张图片

机器学习基础_第13张图片

 可以看出7天一个周期

机器学习基础_第14张图片

机器学习基础_第15张图片 机器学习基础_第16张图片

 

机器学习基础_第17张图片 

 红色曲线可以使用3个函数合并而成

机器学习基础_第18张图片

 机器学习基础_第19张图片

 

 利用矩阵相乘的方法来简写:

机器学习基础_第20张图片

 

 机器学习基础_第21张图片

 回到上面提到的三步:

机器学习基础_第22张图片

 Loss计算方式保持不变。

机器学习基础_第23张图片

优化器保持不变

机器学习基础_第24张图片

 

 机器学习基础_第25张图片

训练数据

机器学习基础_第26张图片

 

所有的batch训练完称为epoch

机器学习基础_第27张图片 参数更新的次数和设置的batchsize大小有关。

另一个激活函数

机器学习基础_第28张图片

 实验结果:

机器学习基础_第29张图片

再次更改模型

 实验结果

机器学习基础_第30张图片

 机器学习基础_第31张图片

机器学习基础_第32张图片好听的名字:神经网络

 机器学习基础_第33张图片

问题:如果足够多的层次效果就会好?

  机器学习基础_第34张图片

这种问题是由于过拟合产生的问题。 

你可能感兴趣的:(机器学习,机器学习,人工智能)