【机器学习】3.常见算法分类

算法

算法：是利用计算机解决特定问题的处理步骤，是优先操作的集合。

跳棋

以机器学习下西方跳棋为例，其特定问题描述如下：

• 任务T: 下西方跳棋
• 性能标准P: 赢棋的概率
• 经验E：和自己对弈
• 目标函数：V

通过将棋盘上的棋子进行评分，并将棋子所在的位置和一个目标函数V建立联系，该目标函数V的值可以描述当前棋盘局面。在棋子，局面和性能标准P之间建立联系，将P描述成一个和棋子，局面相关的函数，根据幽有的数据（经验E）去求解P中各相关参数的最优值。

由身高预测体重

收集了一些人的身高和体重，基于这些已知信息，去预测一个身高已知的人的体重。

两个变量的关系（设身高为x，体重为y）可用最简单的线性关系描述：y=ax+b需要根据已有数据，去求解该模型的两个参数：a和b，然后利用该公式去预测。
两个未知参数，对于任意两条已知记录，即可求出两者的值。为了能得到更普遍可信度更高的模型，需尽可能地使用已有的样本数据，即越多的记录参与到成桉树去接的方过程中，求出的结果更具普遍性。
将所有的记录依次带入y=ax+b得到公式计算结果y‘，每一个计算值y’和真是值y的差即为预测误差Δ，预测误差Δ实际上是一个关于参数a,b函数：Δ(a,b)，我们要做的是找到某一组参数(a,b)使得误差Δ(a,b)最小即可。

常见机器学习算法分类

按学习方式不同分类：

• 监督式学习（Supervised learning）: 利用一组已知类别的样本来训练模型，使其达到性能要求。特点为输入数据（训练数据）均有一盒明确的标志或结果（标签）。即我们提供样例“教”计算机如何学习。

• 例如教机器识别猫，拿出很多猫的样本和特例，标记出猫的特点。
  

• 无监督学习（Unsupervised learning）: 从无标记的训练数据中推断结论。其特点为输入数据（训练数据）不存在明确的标识或结果（标签）。常见的无监督学习分为聚类，即发现隐藏的模式或者对数据进行分组。即计算机根据我们提供的材料“自动”学习，给定数据，寻找隐藏的结构或者模式。
  

• 例如：给一组集体照片，不告诉你怎么分类，但是它可能按年龄分类，也可能按性别分类，让它自己分析。

• 半监督学习