人工智能教程 - 目录

目录

请先看前言

前言

1 人工智能

1.1 科普

1.1.1 什么是神经网络

1.2 基础知识

1.2.1 如何将数据输入到神经网络中

1.2.2 神经网络是如何进行预测的

1.2.3 神经网络如何判断自己预测得是否准确

1.2.4 神经网络是如何进行学习的

1.2.5 计算图

1.2.6 如何计算逻辑回归的偏导数

1.2.7 向量化

1.2.8 如何开始使用python

1.2.9 如何向量化人工智能算法

1.2.10 [实战编程]教你编写第一个人工智能程序

1.3 初级神经网络

1.3.1 浅层神经网络

1.3.2 如何计算浅层神经网络的前向传播

1.3.3 如何计算浅层神经网络的反向传播

1.3.4 为什么需要激活函数

1.3.5 常见的激活函数

1.3.6 激活函数的偏导数

1.3.7 随机初始化参数

1.3.8 [实战编程]教你编写浅层神经网络

1.4 深度神经网络

1.4.1 为什么需要深度神经网络

1.4.2 如何计算深度神经网络

1.4.3 核对矩阵的维度

1.4.4 参数和超参数

1.4.5 [实战编程] 构建深度神经网络

2 实战优化

2.1 实战基础

2.1.1 如何配置数据集

2.1.2 欠拟合和过拟合

2.1.3 如何解决欠拟合与过拟合

2.1.4 L2正则化

2.1.5 dropout

2.1.6 数据增强

2.1.7 将输入特征进行归一化处理

2.1.8 梯度消失和梯度爆炸

2.1.9 梯度检验

2.1.10 [实战编程] 构建实战神经网络

2.2 优化算法

2.2.1 Mini-batch 梯度下降

2.2.2 如何为mini-batch选择合理的大小

2.2.3 指数加权平均

2.2.4 理解指数加权平均

2.2.5 指数加权平均的偏差修正

2.2.6 momentum梯度下降

2.2.7 RMSprop

2.2.8 Adam优化算法

2.2.9 学习率衰减

2.2.10 局部最优问题

2.2.11 [实战编程] 优化神经网络

2.3 调试神经网络

2.3.1 调试处理

2.3.2 为调参选择采样标尺

2.3.3 调参技巧的通用性和超参数的过时性

2.3.4 调参模式

2.3.5 归一化隐藏层

2.3.6 归一化隐藏层的好处

2.3.7 使用模型时的隐藏层归一化

2.3.8 Softmax 回归

2.3.9 深入理解softmax

2.3.10 如何选择深度学习框架

2.3.11 手把手教你使用tensorflow

2.3.12 [实战编程] 使用框架构建神经网络

3 深度学习项目实战

3.1 项目实战一

3.1.1 决策很重要

3.1.2 正交化

3.1.3 如何判断哪个网络更好？——单一数值指标

3.1.4 如何判断哪个网络更好？——优化指标和满足指标

3.1.5 验证集与测试集的数据来源要一致

3.1.6 如何决定数据集的大小？

3.1.7 判定标准是可以变的

3.1.8 AI能力与人类能力的关系

3.1.9 利用贝叶斯误差来判断拟合度

3.1.10 人类误差是多少呢？

3.1.11 AI超越人类

3.1.12 提升AI系统的一般流程

3.1.13 [实战编程] 大项目神经网络

3.2 实战项目二

3.2.1 手工分析错误

3.2.2 同时手工分析多个错误类别

3.2.3 错误标签

3.2.4 如何修正错误标签

3.2.5 快速地构建一个简单的系统

3.2.6 训练集与验证集的来源不一致

3.2.7 异源时的拟合度分析

3.2.8 不常用的误差分析

3.2.9 如何解决异源问题

3.2.10 迁移学习

3.2.11 如何实现迁移学习

3.2.12 什么时候才应该使用迁移学习？

3.2.13 多任务学习

3.2.14 [实战编程] 优化大项目

4 人脸识别

4.1 智能视觉

4.1.1 智能视觉

4.1.2 卷积运算

4.1.3 边缘检测

4.1.4 深入理解边缘检测

4.1.5 padding

4.1.6 卷积步长

4.1.7 3D卷积

4.1.8 多过滤器

4.1.9 卷积层

4.1.10 卷积神经网络

4.1.11 池化层

4.1.12 池化层（二）

4.1.13 一个较完整的卷积网络

4.1.14 卷积的好处

4.1.15[实战编程] 构建简单的人脸识别程序

4.2 深度卷积网络

4.2.1 学习一些牛逼的例子

4.2.2 LeNet-5

4.2.3 AlexNet

4.2.4 VGG

4.2.5 残差网络

4.2.6 为什么残差网络能防止梯度问题

4.2.7 1×1卷积

4.2.8 Inception网络

4.2.9 inception网络与1×1卷积

4.2.10 完整的inception网络

4.2.11 学会利用开源项目

4.2.12 [实战编程] 优化人脸识别程序

4.3 目标检测

4.3.1 目标定位

4.3.2 特征点检测

4.3.3 目标检测

4.3.4 卷积的滑动窗口实现

4.3.5 Bounding Box预测

4.3.6 交并比

4.3.7 非极大值抑制

4.3.8 Anchor Boxes

4.3.9 YOLO 算法

4.3.10 候选区域

4.3.11 [实战编程] 构建商用人脸识别程序

4.4 油画风格转换

4.4.1 什么是转换？

4.4.2 One-Shot学习

4.4.3 Siamese 网络

4.4.4 Triplet 损失

4.4.5 风格验证与二分类

4.4.6 什么是神经风格转换？

4.4.7 什么是深度卷积网络？

4.4.8 代价函数

4.4.9 内容代价函数

4.4.10 风格代价函数

4.4.11 一维到三维推广

4.4.12 [实战编程] 构建风格转换程序

5 语音识别

5.1 循环序列模型

5.1.1 为什么选择序列模型？

5.1.2 数学符号

5.1.3 循环神经网络模型

5.1.4 通过时间的反向传播

5.1.5 不同类型的循环神经网络

5.1.6 语言模型和序列生成

5.1.7 对新序列采样

5.1.8 循环神经网络的梯度消失

5.1.9 GRU单元

5.1.10 长短期记忆

5.1.11 双向循环神经网络

5.1.12 深层循环神经网络

5.1.13 [实战编程]构建简单的语音识别程序

5.2 自然语言处理与词嵌入

5.2.1 词汇表征

5.2.2 使用词嵌入

5.2.3 词嵌入的特性

5.2.4 嵌入矩阵

5.2.5 学习词嵌入

5.2.6 Word2Vec2.7 负采样

5.2.8 GloVe 词向量

5.2.9 情绪分类

5.2.10 词嵌入除偏

5.2.11 [实战编程] 优化语音识别程序

5.3 序列模型和注意力机制

5.3.1 基础模型

5.3.2 选择最可能的句子

5.3.3 集束搜索

5.3.4 改进集束搜索

5.3.5 集束搜索的误差分析

5.3.6 Bleu 得分

5.3.7 注意力模型直观理解

5.3.8注意力模型

5.3.9语音识别

5.3.10触发字检测

5.3.11 [实战编程] 构建商用语音识别

6 生成对抗网络GANs

7 自动驾驶

8 强化学习

9 无监督学习

10 人工大脑