【神经网络与深度学习】人工智能-机器学习-神经网络-深度学习的定义及其联系 [概念篇]

人工智能介绍：

1.人工智能

对于人工智能，至今也没有一个公认的完备的定义。
人工智能是能感知环境，并为获得最佳结果，采取理性行动 的智能体。——《人工智能:一种现代的方法》
人工智能现已作为一门通用技术应用到我们生活中的各个领域，比如机场火车站的人脸识别、购物网站的兴趣推送、导航系统的路径规划、快递自动分拣机器人、输入法的语音识别和文字转换…

从机器学习阶段开始，机器学习发展迅猛，才真正的开始逐渐体现出了人工智能的魅力。深度学习其实是机器学习的一个重要的分支，计算机视觉、语音识别和自然语言处理等领域才开始乘势发展起来。

2.机器学习

机器学习可以分为：
·监督学习（Supervised Learning）
·无监督学习
·半监督学习
1.监督学习（Supervised Learning）：通过对数据的学习,寻找属性和标记之间的映射关系。
可以理解为以带有特征标签（标记）的数据集作为模型的输入来学习的过程。其模型有回归模型和分类模型，回归模型用来预测连续值，分类模型用来预测离散值。
但是对于海量的数据集，把每一个样本都人工的标记标签的工作量实在太大。

2.无监督学习（Unsupervised Learning）：在样本数据没有标记的情况下，挖掘出数据内部蕴含的关系。
它只是把相似度高的样本聚合为一类，对于区分度不大的类别，无监督学习可能就会分不开它们。

3.半监督学习(Semi-Supervised Learning)：将有监督学习和无监督学习相结合，综合使用大量的没有标记数据和少量有标记的数据 共同进行学习。
这样兼顾了有监督学习和无监督学习的特点，得到了广泛的应用。

2.1特征工程

特征工程就是：尽可能选择和构建出好的特征，使得机器学习算法能够达到最佳性能的过程。
特征工程的作用范围是传统的机器学习领域。
特征工程的弊端：
·依靠人工方式提取和设计特征
·需要大量的专业知识和经验
·特征设计和具体任务密切相关
·特征的计算、调整和测试需要大量时间

3.深度学习

3.1神经网络

神经网络可以看作是自动提取特征的方法，模型参数的初始值是随机选取的，因此一开始提取出的特征一定是非常不靠谱的，但是在每次训练之后，都会逐层反向传播误差，自动调整神经网络中的模型参数，这样经过多轮训练之后，提取的特征就越来越好了，可以正确的完成分类。
使用神经网络，特征工程就没那么重要了，只需要对原始数据进行必要的预处理工作之后，把它们喂入神经网络中，通过训练自动地调整权值，使得预测的结果符合预期的要求，这种方式，称为端到端学习。
端到端学习：自动的从数据中学习特征。

3.2深度神经网络

在全连接神经网络中，隐含层的作用就是提取特征，每经过一层隐含层，都可以看作一次特征转换，因此，神经网络的隐含层也被称为特征层。
深度神经网络：就是有多层隐含层的神经网络，这些隐含层不断地对输入的低层特征进行组合，形成更加抽象的高层特征，最后使用softmax分类器进行分类。

3.3深度学习（Deep learning）

深度学习的特点：

·神经网络是深度学习的基础
·有多个隐含层的神经网络
·自动的从数据中学习到与任务相关的特征
·提取出的特征缺乏可解释性

深度学习三要素：
·数据：数据量越大，深度学习的优势就越明显
·算法：大规模深层神经网络需要算法创新和改进，使深度学习的性能和速度得到保障
·计算力：训练大规模深层神经网络，需要强大的计算资源

在一个训练好的神经网络中，低层隐含层的输出是更接近原始输入数据的低层特征，随着层数的增加，提取出的特征越来越抽象，表达能力也越好，因此神经网络中，隐含层层数越多，效果就越好。这种具有多层隐含层的神经网络，就是深度学习。

从图中我们可以看出，传统机器学习在数据量较小的时候表现能力和深度学习差不多，甚至更优于深度学习，但是随着数据量的不断增大，深度学习的优势显现的愈发明显，而且神经网络的规模越大，所能承载的数据量也越大。

深度学习能够自动的学习到与任务相关的特征，从而避免了手工设计特征的繁琐低效的工作。但是通过网络提取出的这些特征，到底是什么，缺乏合理的解释性，不像手工设计特征那样有明确的意义。

深度学习的机制：
深度学习可以看作是对人脑分层机制的模仿，大脑就是一个深层架构，认知的过程也是深层的，动物神经系统和大脑的工作，就是将原始的低级信号逐层向高层抽象的过程，高层特征是低层特征的组合，越到高层特征就越抽象，越来越能够表现明确的含义。当然，人类的大脑比现在最复杂的神经网络还要复杂的多，人类有150多亿个神经元，连接神经元的突触，更是多如银河中的沙砾，曾经有人估算过，如果将一个人大脑中所有神经细胞的轴突和树突依次连接起来，并拉成一根直线，可以从地球连到月球，再从月球返回地球。目前，人们对大脑的认知还非常有限，深度学习只是采用一种简单的方式，模仿和借鉴了大脑的部分机理而已。
深度学习使得人工智能真正落地，因为之前的人工智能在很多情况下用不起来，人工设计的智能还是比较难于超越人类，深度学习把这个过程变成一个数据驱动的过程，当做某一件特定的事情时，当数据量大到一定程度，机器就可能在这做件事情上超越人类，目前落地的已经产品化的智能系统，大部分都是深度学习做出来的，例如语音识别、计算机视觉领域，就有很多这样的例子。

<本文部分内容摘自西安科技大学–牟琦老师的语录，为表敬意，文字全部为手码>

<后续还会继续整理【神经网络与深度学习】相关内容，如果需要，可持续关注我哦~>

<整理不易，留个赞或评论支持一下我吧^^>

如有疑问，欢迎批评指正^^