机器学习基础

什么是机器学习？----本质就是寻找一个函数。 

可以训练什么样的函数呢？

可以训练一个回归的函数，也可以训练一个分类的函数。

这个例子的需要分类的类别是19*19的选项。

在机器学习领域里面不止回归和分类。

 举例：预测函数

利用已存在的数据，预测未来几天的数据。

这个函数的参数如何定义？

b和w是未知参数，x是输入，y是输出。

 如何定义一个loss？

 每一天的误差都可以加起来生成的L就代表了损失。 

 

计算每一天的损失时所用的公式是多样的 ：

 

红色系---大                蓝色系---小

优化器

根据斜率来调整w的大小。

如何调整w的变化步长呢？

 除了关于当前的斜率外还和自己设置的学习率相关。

局部最优问题！

 可以看出7天一个周期

 

 

 

 红色曲线可以使用3个函数合并而成

 

 

 利用矩阵相乘的方法来简写：

 

 

 回到上面提到的三步：

 Loss计算方式保持不变。

优化器保持不变

 

 

训练数据

 

所有的batch训练完称为epoch

 参数更新的次数和设置的batchsize大小有关。

另一个激活函数

 实验结果：

再次更改模型

 实验结果

 

好听的名字：神经网络

 

问题：如果足够多的层次效果就会好？

  

这种问题是由于过拟合产生的问题。