李宏毅机器学习课程学习笔记（1）——机器学习基本概念

机器学习基本概念介绍

让机器具备寻找一个所需函数的能力——两大任务

Regression回归

回归预测

Classification分类

判断是否符合要求：True/Flase

Structured Learning

让机器创造一些东西

机器学习的步骤——训练

1.带有未知的Parameters参数——Model模型

   已知的参数——feature

   y=wx+b：weigth bias

2.找出Loss简称L(b,w)——损失(误差)值最小，输入值为bias和weigth

        reflect how good a set of values is

        误差值ei=|估测值-真实值|——越小越好

        L=1/N*(ei之和)

3.找出最优解w、b

        (1)作L-w图像随机选取一个初始值w0

        (2)计算该点切线斜率，哪里比较低就往哪跨一步，斜率小就跨小步，斜率大就跨大步

                learning rate学习率η——属于hyperparameters，需要自己设定的参数值

                w0->w1：步长=η*k

机器学习基本概念简介

Activation Function

1.Signmoid Function:

改变w：改变斜坡角度

改变b：改变位置、左右移动

改变c：改变高度

红色为要求表达式，由四个蓝色的表达式叠加组合而成

2.Rectified Linear Unit(ReLU):

3.Neural Network——神经网络