机器学习导论总结

绪论

今天开始重新看一篇机器学习导论，相信有了做研究的一些经验，能更好的得到更加深入的理解。

1. 什么是机器学习？

生活中我们的经验告诉我们， 数据是存在某种确定的模式的。机器学习使用实例数据或者过去的经验训练计算机，以优化某种性能标准。训练数据就是优化依赖于某些参数的模型。模型可以是预测性的，用于未来的与预测；也可以是描述性的，用于从数据中获取知识。

2. 机器学习的应用实例

（1）学习关联性

比如在超市发现，人们通常购买X也购买Y，那么如果一个顾客购买了X，那么他就是Y的潜在顾客。

假设考察已有的数据，计算得到P(chips|beer) = 0.7，就可以定义规则：购买啤酒的顾客有70%也会购买薯片。

（2）分类

输入信息到分类器，分类器降输入分到其中的一个类别。

一些用途：

• 人脸识别（Face Recognition）
• 医学诊断(medical diagnosis)
• 语音识别(speech recognition)
• 自然语言处理（机器翻译）(natural language processing)
• 生物测定学(biometrics)
• 知识抽取（Knowledge extraction）：从数据中学习规则
• 压缩（compression）：用规则拟合数据，能得到数据更简单的解释
• 离群点检测(outlier detection)

（3）回归

输入属性信息，输出变量的拟合结果。

回归还有一个应用，就是在优化函数时，为寻求最优，拟合一个回归模型，并在最优样本附近加一些新的点，利用这些点，加入训练数据，拟合新的模型。这通常被称为响应面设计（response surface design）。

（4）非监督学习

监督学习中，学习从输入到输出的映射关系，非监督学习中，只有输入数据，目标是发现输入数据中的规律。

（5）增强学习

系统的输出是动作的序列。这种情况在，单个动作不重要，重要的是策略，即达到目标的正确动作的序列。机器学习可以评估策略的好坏程度，并从以往好的动作序列中学习，以便产生策略。游戏是一个很好的例子。这里提一个小问题，为什么AlphaGo之类要从游戏开始设计算法？因为游戏容易描述，又很难玩好。

用在某种环境下搜寻目标的机器人导航是一个增强学习的应用领域。