李宏毅2021《机器学习/深度学习》——学习笔记（1）

机器学习基本概念

机器学习不同的任务

Regression

连续
The function outputs a scalar.

Classification

离散
Given options(classes), the function outputs the correct one.

Structured Learning

Training的三个步骤

step 1. Function

function with unknown parameters

带有未知参数的函数

Model: function with unknown parameters

模型就是带有未知参数的函数

如下所示是一个简单的 Model
$$y=b+w{x}_1$$

feature: x₁ （已知数据）
weight: w（权重：与 feature 相乘的）
bias: b（偏置）

step 2. Loss

define loss from training data

从训练数据定义损失

• Loss is a function of parameters $L(b,w)$ —— Loss 是带有未知参数的函数
• Loss 的值：how good a set of values is. —— Loss的值代表当确定一组未知参数时，模型是好还是不好。

Loss：$$L=\frac{1}{N}\sum ^n{e}_n$$
其中 $e=|y-\hat{y}|$

step 3. Optimization

优化下面函数，获得较好的参数值
$$w^{\ast },b^{\ast }=\arg \underset{w,b}{\min }L$$

hyperparameters：机器学习中自己设定的参数，比如学习速率。

参考资料

(强推)李宏毅2021/2022春机器学习课程