李宏毅机器学习(2)：机器学习基本概念

Linear Model往往比较简单，y都是随着X(x1,x2...)的输入线性变化的，但在现实场景中问题往往不是Linear Model可以描述的。

比如我们需要得到红色曲线时，用Linear Model就无法实现，这种模型无法拟合问题的情况下就叫做Model Bias。
那么我们如何拟合红色的曲线呢？

通过上图方式就可以拟合出任意的Piecewise Linear Curves。

Piecewise Linear Curves：Curves由很多锯齿状线段组成。

如果不是Piecewise Linear Curves也可以近似表示。

那怎么表示这样的曲线呢，表示起来不是很容易，所以我们用Sigmoid近似表示。

其实实现的这个function就叫做hard sigmoid
有了sigmoid function我们就可以通过改变参数用不同的sigmoid function去拟合任意连续函数了。

如果把式子画出来：

用线性代数最终表示的式子：

我们把式子中的所有未知参数提出来，拉成一个向量。这些参数我们一律统称。

Step1的过程我们已经抽象到一个式子了。