深度学习入门笔记（1）——什么是深度学习？

深度学习入门笔记（1）——什么是深度学习？

在很多人眼里，深度学习（Deep Learning）是一个十分高大上的研究手段，它可以模拟人的判断，让数据处理和结果输出具有“人性”，在没接触过的人看来，深度学习简直是“玄学”范畴，网络一通，谁都不爱。但是，在所有人追捧深度学习的同时，对学习这一手段却是望而却步，更有甚者在网上买完“韭菜课”后，原理部分还没看完就不在继续学习。其实，说句实话，深度学习只是被过度“神化”了。抛开所有的专业术语，深度学习仅仅是一种手段而已，如果不进行深层次的开发工作，只用现成网络开发的话，学习起来并不是很费事。
博主作为萌新，也是最近几个月开始接触，在之后的一年或者两年时间里，博主会不断更新自己的学习和基于深度学习的科研成果，当然，博主很菜也不是科班出身，深度学习对于博主而言，只是一个工具，因此，不专业之处还请各界大佬批评指正，博主在这里感谢大家赐教，嘿嘿！
言归正传，在《深度学习入门笔记（1）——什么是深度学习？》中博主将依次介绍人工智能、数据挖掘和机器学习来引出我们之后要谈到的深度学习，讲的不好，还请大家多多担待！

人工智能

“人工智能”这一概念，我想大家并不陌生，在许多科幻片里，当主角穿越到了未来，一般都会被所谓的“人工智能”机器人追杀，在电影里，我们能看出，作为具备“人工智能”的机器人，它们会有人的判断力，通过“脑力”，可以推测出主角所在的位置及最优追杀策略。当然，最终主角肯定会依靠机器人“呆头呆脑”的特点成功突围，然后迎娶白富美，走向人生巅峰。
但是，在现实生活中，人工智能其实和机器人没有任何关系。这里，有朋友就会想“博主，你个骗子，当年阿尔法狗可是亲手下棋赢了的！”。其实不然，我们所说的机器人其实只是一个介质，如果把算法比作CPU，那么机器人充其量就是一个显示屏。
那么，到底什么是人工智能呢？直接对人工智能解读的话比较宽泛，我们在这里引出它的三个类别：弱人工智能( Artificial Narrow Intelligence , ANI)；强人工智能( Artificial General Intelligence , AGI)；超人工智能( Artificial Superintelligence , ASI)。
如果，博主告诉你，阿尔法狗是ANI范畴，你会有会想“天哪，弱的都能拿世界冠军，那强的得多强啊！”。哈哈哈，其实不然，这里的强弱指的是能够处理的范畴，ANI指的是从事单一方向的AI，就如我们所说的阿尔法狗，一心只想下棋，而AGI和ASI指的是可以从事多个方向的AI。举个例子，如果用一本书来形容，ANI可以看作《工程测量》，AGI可以是《测量学》，而ASI一定会是《百科全书》。
简单对AI总结一句，在AI范畴内都是算法研究，不是造机器人！不是造机器人！不是造机器人！

数据挖掘

数据挖掘KDD ( knowledge discovery in database ，KDD）的话，对于我们之后要介绍的深度学习来说，算是目的吧，在介绍数据挖掘方面，博主还是有一定发言权的，因为，博主是GIS专业出身，之前从事的部分事情都是进行数据挖掘（当然，大多数时间还是出图，懂的都懂）。这里的数据挖掘其实就和我们GIS专业的空间分析有异曲同工之妙，简单来说，他是一个数据处理的过程，我们可以直接从字面意思理解，就是要进行“挖掘数据”，怎么挖？这其实和倒斗（三叔小说都看过吧，没错，就是那个倒斗）类似，首先，当我们想要倒斗时，我们要先“分金定穴”，然后，我们就要用铲开始挖掘，发现宝藏就是我们的挖掘目的，我们在拿取之前，会不断挖，在挖掘的过程中，我们也会对挖掘到的土壤进行分析，看看现在是在哪个位置，最后，当我们发现并拿到宝藏的时候，我们就会对宝藏进行年代、保存程度等进行评价，出来后会对整个过程进行评价，不足之处会进行记录，头目会告诉队友下次注意点。其实，这一套流程就是数据挖掘，而之后提到的机器学习和深度学习的目的（因为博主是用深度学习做数据分析和提取，所以观念可能存在片面，大家不要介意呀）就是进行数据挖掘。
简单对KDD总结一句，KDD类似倒斗，手法可以参照三叔小说，不是画图！不是画图！不是画图！

机器学习

在讲述机器学习（Machine Learning）的时候，我必须先陈述一下个人观点，有些人认为机器学习是深度学习的爹，深度学习只是机器学习的一个延伸，但是，在我看来，他们是完全两个不同的事物。当然，这样说有引战嫌疑，我作为萌新也不应该对这个问题进行过多的评价，仅是个人观点，朋友们口下留情呀！
机器学习是AI的一个途径，其实机器学习并不是说明高大上的东西，在我们本科阶段其实就有所接触，比如监督和非监督分类啥的，但是，可能没有建立一个体系化的概念，这里博主列举一下机器学习的五个主要方向：监督学习（有教）、非监督学习（无教）、半监督学习、迁移学习、增强学习。
这里主要简单介绍一下迁移学习和增强学习，迁移学习是指将已经训练好的模型参数迁移到新的模型来帮助新模型训练数据集，比如，博主最近在做的FCN改进，在模型搭建过程中就是用迁移学习的方式继承了VGG-16 net ，这个手法还是比较常见的。增强学习是指通过观察周围环境来学习。
常见的机器学习有k-mean、支持向量机、随机数森林啥的，比较老生常谈，这里就不再赘述了。
简单对机器学习总结一句，机器学习多用于分类，方法经典、结构较为简单、部分算法可以不训练。

深度学习

如果你可以读到这里，那么恭喜你，咱们要开始讲正题了，历史和发展部分我们直接跳过，我直接谈一谈我眼中的深度学习（deep learing）。不足之处还望各位大佬批评指正。
我们先从字面上对深度学习进行理解，首先，什么是深度？有没有浅度？深度其实指的是数据的一个挖掘程度，深度学习的部分过程其实是一个特恒提取的过程，一层就代表一个层级的特征提取结果，这里有些和我一样刚打算开始接触深度学习的朋友可能并不知道什么是特征提取，但是，这不影响，可以先记住这个概念，之后在讲述卷积、池化和转置卷积这类操作的时候会具体阐述。那么，在特征提取的层级结果中，一定会存在深层和浅层的区分，一般来所，深层指的是三层以后的提取结果，从这点上我们可以看出，深度学习一般至少会有三层（当然，和现在的网络量级比起来，简直是小巫见大巫）。就和剥玉米一样，一层一层去除后才是我们想要的。然后，我们在说一说什么是“学习”，如果，深度的过程是单纯的前向传播的话，那么学习就是一个反向参数更新迭代的过程，深度学习通过反馈的方式，对每个层级的权重进行调整，不断地模拟“学习”后，我们才能得到最后的模型，这里面会涉及，学习策略、损失函数之类的，也都是后话。
深度学习是一门很有意思的艺术，在之后的一段时间内我会不断分享自己的学习心得，望大家不要嫌弃呀！

最后

欢迎大家留言讨论！欢迎大家留言讨论！欢迎大家留言讨论！