李宏毅机器学习笔记2020（一）

一、机器学习的本质就是自动寻找函式

例如

二、寻找什么样子得到函数式

1.regression（回归）：
The output of the function is a scalar.:函数的输出是一个数值
例如：

2.classfication（分类）：
1）Binary Classification(二元分类):

2）multi-class Classification(多层次分类):

3. generation（生成)：
产生有结构的复杂东西 (例如：文句、图片)

三、怎么告诉机器 想找什么样的函数式

1.函数式的Loss：
预测结果的出错率。
损失函数（loss function）用来估量模型的预测值f(x)与真实值Y的不一致程度，它是一个非负实值函数,通常使用L(Y, f(x))来表示，损失函数越小，模型的鲁棒性就越好。
2. supervised learning (有监督学习)：
监督学习是从标记的训练数据来推断一个功能的机器学习任务。训练数据包括一套训练示例。在监督学习中，每个实例都是由一个输入对象（通常为矢量）和一个期望的输出值（也称为监督信号）组成。监督学习算法是分析该训练数据，并产生一个推断的功能，其可以用于映射出新的实例。
3. unsupervised learning(无监督学习)：
现实生活中常常会有这样的问题：缺乏足够的先验知识，因此难以人工标注类别或进行人工类别标注的成本太高。很自然地，我们希望计算机能代我们完成这些工作，或至少提供一些帮助。根据类别未知(没有被标记)的训练样本解决模式识别中的各种问题，称之为无监督学习。
4. reinforcement learning（强化学习）:
属于无监督学习。强化学习（Reinforcement Learning, RL），又称再励学习、评价学习或增强学习，是机器学习的范式和方法论之一，用于描述和解决智能体（agent）在与环境的交互过程中通过学习策略以达成回报最大化或实现特定目标的问题
5. transfer learning:
迁移学习，训练数据跟测试数据的类型不一样的，例如以黑白图片训练识别数字，测试时使用了彩色图片，如何使机器也能输出正确的结果
6. meta learning：
教机器学习如何去学习

7.life-long learning（continous learning）：
终身学习，不停学习

8.anomaly detection (异常检测)：
对不匹配预期模式或数据集中其他项目的项目、事件或观测值的识别。 通常异常项目会转变成银行欺诈、结构缺陷、医疗问题、文本错误等类型的问题。异常也被称为离群值、新奇、噪声、偏差和例外。

四、机器怎么找出你想要的函数式

1.限制函数式寻找范围：

2.给定函数式的寻找方法——Gradient Descent （梯度下降）