李宏毅机器学习笔记（1）——introduction

1、人工智能的发展历史：

• 1950’s：人工智能的概念开始出现，依据人类事先设定好的规则实现。
• 1980’s：机器学习开始发展，是实现人工智能的手段
• 2010’s：深度学习学习开始发展，是机器学习的一种方法

2、机器学习：

• 根据数据资料寻找一个可以解决目标问题的函数
• 数据(input data)：语音、图像、文本……
• 函数：f(x)，x即输入的数据资料(input data)

3、机器学习三步骤：

• Before step 1：根据任务目标确定所需要寻找的模型形式f(x)

  Step 1：定义一个函数集合
  Step 2：定义判断函数好坏的准则（惩罚函数L）
  Step 3：根据定义的判断准则（惩罚函数）选择最优函数

4、机器学习分类：

- 根据目的分类：

a.回归：
如根据历史PM2.5数据预测未来PM2.5的值，输出(output)是连续型数据

b.分类：
——二元分类/二类别分类：
如判断信贷客户是否具有违约风险，判断一封邮件是否为垃圾邮件
输出值(output)为“是-否”/“1-0”
——多类别分类：
如判断一张图片上的动物是猫、狗、猪还是其他，待归的类超过2类
——Generation(生成)：
通过寻找到的函数产生有结构的、复杂的东西，如文章句子、图片、语音等。

• 根据数据是否有y分类：
  ——有监督学习(Supervised Learning)
  用于训练模型的数据含有y，称之为Labelled Data。应用有回归、分类。
  ——无监督学习(Unsupervised Learning)
  用于训练模型的数据不含y，称之为Unlabelled Data。应用有：降维、聚类。
  ——半监督学习(Semi-supervised Learning)
  用于训练模型的数据部分为Labelled Data，部分为Unlabelled Data
  ——迁移学习(Transfer Learning)
  -用于训练模型的数据部分为Labelled Data，部分为Unlabelled Data
  -数据集中含有与目标输出y/label无关的数据
  ——强化学习(Reinforcement Learning)
  如果将有监督学习所用数据中的y看做学习过程中的老师，那么强化学习则是 在一个没有老师的环境下学习的，即（所用数据没有y）。强化学习的学习指导来源于学习环境的对其学习行为、结果的反馈，可结合下图理解。
  强化学习模拟人类、动物学习的本能，通过环境的反馈不断地去学习、进步，学习能力很强，在未来人工智能的发展中占有重要地位。

5、用其他方式代替函数f(x)之 深度学习(Deep Learning)

• 借鉴生物神经网络原理构造人工神经网络，用人工神经网络代表要寻找的函数
• Deep = Many hidden layers，每一层相当于一个神经元