笔记（第一讲）

什么是 Machine Learning？

使用Machine Learning 方法的关键：

1， 存在有待学习的“隐含模式”

2， 该模式不容易准确定义（直接通过程序实现）

3， 存在关于该模式的足够数据

f 是我们想知道的目标函数（不知道）。A 机器学习的算法（核心） 。X输入 Y输出，D资料。

g是我们算出来的最好的假说hypothesis（最好接近于g）。H是假说空间、假说集，g属于H，通过A选出。

二， 机器学习与数据挖掘、人工智能、统计学的关系

1， Machine Learning vs. Data Mining

数据挖掘是利用（大量的）数据来发现有趣的性质。

1.1 如果这里的”有趣的性质“刚好和我们要求解的假设相同，那么ML=DM。

1.2 如果”有趣的性质“和我们要求的假设相关，那么数据挖掘能够帮助机器学习的任务，反过来，机器学习也有可能帮助挖掘（不一定）。

1.3 传统的数据挖掘关注如果在大规模数据（数据库）上的运算效率。

目前来看，机器学习和数据挖掘重叠越来越多，通常难以分开。

2， Machine Learning vs. Artificial Intelligence(AI)

人工智能是解决（运算）一些展现人的智能行为的任务。

2.1 机器学习通常能帮助实现AI。

2.2 AI 不一定通过ML 实现。

例如电脑下棋，可以通过传统的game tree 实现AI 程序；也可以通过机器学习方法（从大量历史下棋数据中学习）来实现。

3，Machine Learning vs. Statistics

统计学：利用数据来做一些位置过程的推断（推理）。

3.1 统计学可以帮助实现ML。

3.2 传统统计学更多关注数学假设的证明，不那么关心运算。

统计学为ML 提供很多方法/工具（tools）。