机器学习一些基础概念

机器学习

1.基础概念：机器学习是对能通过经验自动改进的计算机算法的研究
2.基本步骤 寻找一个合适的函数，包括很多未知参数，传入训练集，定义训练数据的损失，最后通过使用参照测试集优化模型。
3.训练策略

4.优化策略

• 优化

学习模式的特点和应用

一.半监督

• 特点：半监督学习(Semi-Supervised Learning，SSL)是监督学习与无监督学习相结合的一种学习方法。半监督学习使用大量的未标记数据，以及同时使用标记数据，来进行模式识别工作。当使用半监督学习时，将会要求尽量少的人员来从事工作，同时，又能够带来比较高的准确性。
• 应用：分类，回归，聚类，降维
• 拓展:半监督

二.强化

• 不同于监督学习和非监督学习，强化学习不要求预先给定任何数据，而是通过接收环境对动作的奖励（反馈）获得学习信息并更新模型参数。
• 用于描述和解决智能体（agent）在与环境的交互过程中通过学习策略以达成回报最大化或实现特定目标的问题
• 拓展: 强化学习.

三.迁移

• 特点：迁移学习是一种机器学习方法，就是把为任务 A 开发的模型作为初始点，重新使用在为任务 B 开发模型的过程中。仅在第一个任务中的深度模型特征是泛化特征的时候，迁移学习才会起作用。
• 应用：深度学习中在计算机视觉任务和自然语言处理任务中将预训练的模型作为新模型的起点是一种常用的方法，通常这些预训练的模型在开发神经网络的时候已经消耗了巨大的时间资源和计算资源，迁移学习可以将已习得的强大技能迁移到相关的的问题上

网络模型的特点和应用

一.卷积神经网络CNN

• 特点：所有CNN最终都是把一张图片转化为特征向量，特征向量就相当于这张图片的DNA。这个向量就包含了图片的特征，当然这个特征不是肉眼上的图片特征，而是针对于神经网络的特征。
• 应用：CNN主要是用于图像识别领域，图片分类，相似图搜素

二.循环神经网络RNN

• 特点：RNNs的目的使用来处理序列数据。RNNs之所以称为循环神经网路，即一个序列当前的输出与前面的输出也有关。具体的表现形式为网络会对前面的信息进行记忆并应用于当前输出的计算中，即隐藏层之间的节点不再无连接而是有连接的，并且隐藏层的输入不仅包括输入层的输出还包括上一时刻隐藏层的输出。
• 应用：RNNs已经被在实践中证明对NLP是非常成功的。如词向量表达、语句合法性检查、词性标注，语言模型与文本生成等。

三.生成对抗网络GAN

• 特点：是一种生成式模型，也是一种无监督学习模型。其最大的特点是为深度网络提供了一种对抗训练的方式相比较传统的模型。GAN中G的梯度更新信息来自判别器D，而不是来自数据样本。
• 应用：1. GAN本身是一种生成式模型，所以在数据生成上用的是最普遍的，最常见的是图片生成，常用的有DCGAN WGAN，BEGAN。2. GAN本身也是一种无监督学习的典范，因此它在无监督学习，半监督学习领域都有广泛的应用