《人工智能实践：TensorFlow笔记》学习笔记

8讲入门课程（代码实践课）：人工智能概念、机器学习方法、深度学习的TensorFlow框架

第 讲	讲解内容	学生可学会
一	人工智能、机器学习、神学学习、神经网络发展、典型应用、环境搭建
二	Python语法织成网	Python基本用法
三	TensorFlow名词解释，给出神经网络八股	神经网络八股
四	神经网络优化	神经网络基本优化方法
五	MINIST数据集、全连接网络基础	手写数字识别，输出识别正确率
六	MINIST数据集、全连接网络实践	输入输出接口编写，使代码可用
七	MINIST数据集、卷积神经网络基础	使用CNN手写数字识别
八	ImageNet数据集、卷积神经网络实践	复现网络结构和参数，实现应用

第一讲 人工智能概述

1. 什么是人工智能？
   图灵：即艾伦·麦席森·图灵 Alan Mathison Turing，19120623——19540607，英国数学家、逻辑学家，被称为计算机科学之父，人工智能之父。
   1950年在论文《机器能思考吗？》中提出来图灵测试，一种用于判定机器是否具有智能的试验方法：
   提问者和回答者隔开，提问者通过一些装置（如键盘）向机器随意提问。多次测试，如果有超过30%的提问者认为回答问题的是人而不是机器，那么那么这台机器就通过测试，具有了人工智能。
   人工智能：机器模拟人的思维和意识。
   2014年4月6日，一台计算机（聊天软件）成功让人类相信它是一个13岁的男孩，成为有史以来首台通过图灵测试的计算机。
   2015年5月11日，机器依据未见过的书写系统（例如，藏文）中的一个字符实例，写出来同样风格的字符，说明机器已具备了迅速学些陌生文字的创造能力。
   消费级人工智能产品
   | 公司| 消费级人工智能产品|
   | ------------- |:-------------
   |谷歌|Assistant|
   |微软|Cortana|
   |苹果|Siri|
   |亚马逊|Alexa|
   |阿里|天猫精灵|
   |小米|小爱同学|
   人工智能先锋
   |姓名|贡献|
   | ------------- |:-------------
   |Geoffrey Hinton|多伦多大学教授，谷歌大脑多伦多分部负责人，他发表了许多让神经网络得以应用的论文，激活了整个人工智能领域|
   |Yann LeCun|纽约大学教授，Facebook AI研究室负责人，他改进了CNN算法，使CNN具有了工程应用价值，现在CNN依旧是计算机视觉领域最有效的模型之一|
   |Yoshua Bengio|蒙特利尔大学教授，微软公司战略顾问，他推动了RNN 算法的发展，使RNN得到工程应用，用RNN解决了自然语言处理中的问题|
2. 什么是机器学习？以班车预测时间为例，采用决策树模型。定义，机器学习是一种统计学方法，计算机利用已有数据，得出某种模型，再利用此模型预测结果。
   特点：随经验的增加，效果会变好。
   机器学习与传统计算机的不同：传统冯诺依曼计算机工作原理：指令和数据都被预先存储，按照指令先后顺序，逐条读取并执行。特点：输出结果是特定的，已经写在指令了。
   而机器学习的输入不再是写好的指令，而是数据。输出是结果出现的概率。它会预先读取大量数据，训练处模型。当模型训练好，再输入新的数据，输出新数据所对应的结果。
   所以，机器学习要先用以往数据训练模型，再用模型预测新数据的结果。
   机器学习三要素：数据、算法、算力。缺一不可。
   可以用孩子认识世界的过程来认识机器学习。如认识猫，多次遇见加介绍，之后即认识。
3. 深度学习：即深层次是经网络，源于生物学脑神经结构的研究。随着人的成长，脑神经网络逐渐变粗变壮。
   生物学中的神经元：众多树突汇总于某个神经元，再经过一根轴突输出。人脑包括860亿个神经元，实现多层的神经网络的复杂函数拟合。
   1943年，心理学家McCulloch和数学家Pitts参考了生物神经元的结构，发表了抽象的神经元模型MP。
4. 计算机中的神经网络发展：感知机第一，即两层神经网络首尾相连，组成单层神经网络。单层神经网络的缺陷是无法进行异或计算，二层及以上方可。当时计算能力不强，故低潮。
   1986年提出了反向传播算法BP的双层神经网络，有效解决了单层神经网络的算力问题。1995年知识向量机SVM，改善了神经网络需要调节参数的不足，还避免了神经网络中局部最优的问题，成为当时人工智能领域的主流算法。
   直到2006年深层神经网络DBN出现，2012年卷积神经网络CNN的在图像识别领域的惊人表现，又引发了神经网络研究的兴起。
   机器学习最主要的应用：对连续数据的预测（以房价预测为例），对离散数据的分类（判断肿瘤是良性恶性）。
   机器学习的应用领域：计算机视觉、语音识别、自然语言处理。
5. 总结：
   人工智能，机器模拟人的意识和思维；
   机器学习，实现人工智能的一种方法，是人工智能的子集。
   深度学习，是深层神经网络，是机器学习的一种实现方法，是机器学习的子集。
   机器学习的过程
   
   单个神经元
   
6. 避免兼容性问题，同一版本
   Ubuntu 16.04
   Python 2.7
   Tensorflow 1.3.0