《生成对抗网络入门指南》学习笔记（一）

人工智能元年：2017-AlphaGo 击败了柯洁。

图灵测试：如果一台机器能够与人类展开对话（通过电传设备）而不能被辨别出其机器身份，那么称这台机器具有智能。

打造人工大脑，需要回答的三个问题：

1）大脑如何运转——正在探索

2）大脑的运行机制可否，拆分成差异性极低的可衡量单位——神经学家解答是，神经元

3）是否有，其它人工产物可等价体现，这一单元粒度的价值或功能——信息学家解答是，可输出0和1的组件（继电器或晶体管）

 

AI诞生标志：1956年Dartmouth会议。

两起两落：

一起：出现很多AI程序和新的研究方向（推理搜索算法研究、自然语言处理）

一落：仅仅具有逻辑推理能力还不能够实现AI，且当时落后的计算机运算能力和数据收集能力无法支撑起AI

分裂成两派：简约派（认为AI是解题机器）、芜杂派（坚持AI具有非逻辑性联想能力）

二起：简约派研究出，专家系统（XCON支持自动选择组件）。BP算法的提出，解决了多层神经网络学习过程中的问题。也使得神经网络作为主流算法，应用于模式识别、预测和智能控制等机器学习领域。

二落：苹果和IBM在PC市场的发力，使得Lisp电脑破灭，导致AI的硬件基础也破灭。

 

摩尔定律：当价格不变时，集成电路上可容纳的元器件数目约每隔18~24个月便会增加一倍，性能也将提升一倍。

四场人机大战：

1、97年，IBM的深蓝，挑战博弈树复杂度为10的123次方的国际象棋。

2、06年，浪潮天梭挑战中国象棋。

3、11年，沃森在智力问答节目《危险边缘》中战胜两位人类冠军，沃森展现出惊人自然语言处理能力。

4、16年，AphaGO

 

机器学习：使用算法来解析海量数据，从中找出规律，并完成学习，用学习出来的思维模型对真实事件做出决策和预测。

机器学习的几种学习方式：

1、监督式学习，训练集由输入数据和预期输出的标签组成。

回归分析：函数输出为连续的值。

分类：预测内容为离散标签。

2、无监督式学习，适用于聚类，把相似的东西聚在一起，而无所谓这一类是什么。

3、强化学习，强调如何基于环境而行动，以取得最大化的预期利益。

强化学习的反馈仅仅检查模型的对错，会接受到类似的奖励或惩罚的刺激后，逐步调整。专注于规划，在探索未知领域和遵从现有知识之间找到一个合理的平衡点。

 

学习率：信息在人脑神经细胞的突触上传递时，强度可变化。

BP算法虽解决了两层网络的所需要的复杂计算量问题，但一次训练太耗时，且局部最优解问题使得优化网络较困难。

Hinton提出了深度学习，并增加了两个优化技术——预训练和微调。（让神经网络权值找到一个接近最优解的值）。