机器学习算法分类（三）

在机器学习中，又分为监督学习、无监督学习、半监督学习、强化学习和深度学习。

监督、无监督、半监督学习

机器学习根据数据集是否有标签，又分为监督学习、无监督学习、半监督学习。

1. 监督学习：训练数据集全部都有标签
2. 无监督学习：训练数据集全部没有标签
3. 半监督学习：训练数据集有的有标签，有的没有标签。

监督学习数据集全部都有标签，根据标签的特点，监督学习又分为回归问题和分类问题。

1. 回归问题：标签是连续的数值。是确定两种或两种以上变量间相互依赖的定量关系的一种统计分析，说白了就是当自变量变化的时候，研究一下因变量是怎么跟着变化的。比如说电商场景中的销量预测、客户生命周期价值预测等。
2. 分类问题：标签是离散型数值。就是将数据分为不同的类别（标签）。通常用于图像识别、文本分类等分类问题。

无监督学习应用于没有标签的数据集。它通过数据出发，自动寻找规律，通常应用在聚类、降维等有限场景中。

无监督学习聚类方法是一种将数据集中的对象分组的方法，分成多个不同的组。其目的是使组内对象相似度尽可能高，组间对象相似度尽可能低。

半监督学习是介于监督学习和无监督学习之间的一种学习方法，这种机器学习类型的应用通常是因为获取数据标签难度很高。它利用少量的带标签数据和大量的未标记数据来训练模型，以达到提高模型预测性能的目的。在半监督学习中，带标签数据通常是由领域专家手动标注的，而未标记数据则是从大量的无标签数据中获取的。

哪种监督学习更为常用？

监督学习是应用最广泛的机器学习算法，无监督学习在聚类场景中使用更多，例如 为用户做分组画像。半监督学习应用场景比较少，目前我还没遇见过，感兴趣的自行了解。

强化学习

强化学习与人类的学习方式最为相似。强化学习是一种通过试错的方式，从环境中学习最优决策策略的机器学习方法。智能体（agent）通过与环境交互，获得奖励信号来学习如何做出最好的决策。它通过反复的试错、不断的收集反馈，不断的学习，不断地训练使得它会变得越来越强。

强化学习和监督学习的差异在于：监督学习是从数据中学习，而强化学习是从环境给它的奖惩中学习。

强化学习在机器人、汽车自动驾驶领域应用广泛。

举个小例子：人训练，当人给一个手势时，如果正确执行了我们的指令，那我们就给它骨头奖励；如果不执行我们的指令，那我们就给它一些惩罚，通过一定时间的反复训练，就学会了执行人类的指令。这是一样的道理。

深度学习

科学家生物神经元的启发，照葫芦画瓢创建除了人工神经网络，然后发现这玩意还挺好用。神经网络的发展由最开始的单层神经网络发展到深层神经网络，而深层神经网络中，卷积神经网络可以说是大杀四方，它在语音识别、自然语言处理和计算机视觉领域被广泛应用。

深度学习是一种基于神经网络算法的机器学习技术，它通过多层神经网络来学习高级抽象特征并进行模式识别和预测。

深度学习擅长对非结构的数据集进行自动的复杂特征提取。它并不是一种独立于其他类型机器学习算法，它可以应用在监督学习、半监督学习和无监督学习和强化学习中。

神经网络是一种计算模型，它受到生物神经元的启发，通过多个神经元的组合和连接，实现对输入数据的处理和预测。

神经网络由多个神经元组成，每个神经元接收一组输入，并产生一个输出。神经网络通常由多个层次组成，包括输入层、隐藏层和输出层。

1. 输入层是神经网络的第一层，它接收输入数据，并将其传递到下一层。
2. 隐藏层是神经网络的中间层，通过对输入数据进行加权和激活函数的处理，实现了对复杂特征的提取。
3. 输出层是神经网络的最后一层，输出层将经过处理的数据转化为输出结果，并与实际结果进行比较，以计算损失函数并更新模型参数。
   
   神经网络的工作原理可以分为前向传播和反向传播两个过程。

1、 前向传播：输入信号从输入层开始，经过一系列的加权求和和激活函数处理后，传递给下一层神经元，下一层神经元的输入是上一次神经元的输出，这个过程一直持续到输出层，得到最终的计算结果。
2、 反向传播：根据输出层的计算结果和实际目标值计算误差，然后按原路径反向传播误差，它通过将损失函数反向传播到神经网络中的每个神经元，以更新神经元的权重和偏置，以最小化误差。这个过程可以通过梯度下降等优化算法实现。

通过不断地前向传播和反向传播，神经网络学会了从输入数据中提取有用的特征，使得我们的模型精度逐渐提升，以完成分类、预测等任务。

神经网络在图像识别、自然语言处理、推荐系统等领域中取得了显著的成果。在图像识别领域，（CNN）卷积神经网络通过对图像进行卷积和池化等操作，实现对图像的特征提取和分类。在自然语言处理领域，（RNN）循环神经网络通过对文本序列进行处理，实现对文本的理解和生成。在推荐系统领域，（DNN）深度神经网络通过对用户和物品的数据进行处理和分析，实现对用户的个性化推荐和优化。