人工智能，机器学习，深度学习的关系；智能算法

人工智能：

                是一个泛称，包括自然学科和社会学科，以机器学习为基础

机器学习：

是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。利用算法分析数据的过程，建立可以从中学习的模型，并最终使用这些学习参数进行预测。它包含了各种策略，包括决策树、聚类、回归和贝叶斯方法

基于学习策略的分类：　

机械学习 (Rote learning)，示教学习 (Learning from instruction或Learning by being told)，演绎学习 (Learning by deduction)，类比学习 (Learning by analogy)，基于解释的学习 (Explanation-based learning, EBL)，归纳学习 (Learning from induction)

获取知识的表示形式：

1）代数表达式参数

2）决策树

用决策树来划分物体的类属，树中每一内部节点对应一个物体属性，而每一边对应于这些属性的可选值，树的叶节点则对应于物体的每个基本分类。

3）形式文法

在识别一个特定语言的学习中，通过对该语言的一系列表达式进行归纳，形成该语言的形式文法。

4）产生式规则

产生式规则表示为条件—动作对，已被极为广泛地使用。学习系统中的学习行为主要是：生成、泛化、特化（Specialization）或合成产生式规则。

5）形式逻辑表达式

6）图和网络

7）框架和模式（schema）

8）计算机程序和其它的过程编码

9）神经网络

学习形式分类：

有监督，无监督

学习方法：

经验归纳学习，类比学习，分析学习，遗传算法，联接学习，增强学习

经典算法：

https://blog.csdn.net/the_star_is_at/article/details/79074838

应用：

数据挖掘、计算机视觉、自然语言处理、生物特征识别、搜索引擎、医学诊断、检测信用卡欺诈、证券市场分析、DNA序列测序、语音和手写识别、战略游戏和机器人运用

 

深度学习：

是机器学习的一种，是机器学习研究中的一个新的领域

主要技术：

线性代数、概率和信息论

欠拟合、过拟合、正则化

最大似然估计和贝叶斯统计

随机梯度下降

监督学习和无监督学习

深度前馈网络、代价函数和反向传播

正则化、稀疏编码和dropout

自适应学习算法

卷积神经网络

循环神经网络

递归神经网络

深度神经网络和深度堆叠网络

LSTM长短时记忆

主成分分析

正则自动编码器

表征学习

蒙特卡洛

受限波兹曼机

深度置信网络

softmax回归、决策树和聚类算法

KNN和SVM

生成对抗网络和有向生成网络

机器视觉和图像识别

自然语言处理

语音识别和机器翻译

有限马尔科夫

动态规划

梯度策略算法

增强学习（Q-learning）

转折点

智能算法

人工神经网络算法，遗传算法，差分进化算法、免疫算法，模拟退火算法，群体（群集）智能（Swarm Intelligence），禁忌搜索算法