深度学习从入门到精通（Deep Learning）python 期中考试答案复盘

一、 选择题
1、 梯度下降算法的正确步骤是（） D
A计算预测值和真实值之间误差
B迭代更新，直到找到最佳权重
C把输入传入网络，得到输出值
D初始化随机权重和偏置
E对每一个产生误差的神经元，改变相应的权重值以较小误差
A、 abcde B、edcba C、cbaed D、dcaeb

2、 下面哪个激活函数可以实现max（0，x）的功能（） B
A、 Sigmoid B、ReLU C、softmax D、Tanh

3、 下面说法不正确的是（） C
A、 神经元它本质是一条直线，或者说神经元它在数字意义上就是一条直线
B、 M-P模型不具备调节参数功能
C、 在梯度下降法中，学习率设定后不能改变
D、 梯度下降法中的梯度实际上就是值该点的导数

4、 以下不属于人工智能的分类（） A
A、 深度人工智能
B、 弱人工智能
C、 通用人工智能
D、 超人工智能

5、 在神经网络中，以下哪种技术用于解决过拟合（） D
A、 Dropout
B、 正则化
C、 批规范化
D、 以上都是

6、 下列哪个公式属于交叉熵（） A
A、

B、

C、

D、

7、 人工智能是让机器（） C
A、 像人脑一样思考
B、 实现自动化
C、 模拟和延伸人的部分功能
D、 完全代替人类

8、 在人工智能的三次浪潮中，第一次浪潮失败的主要原因是（） B
A、 硬件无法满足高并行大规模计算
B、 单层感知机无法解决线性不可分问题
C、 深层网络训练中梯度消失问题难以解决
D、 缺乏充足的数据

9、 下列哪个数据集不是依据用途分类（） A
A、 自定义数据集
B、 训练数据集
C、 验证数据集
D、 测试数据集

10、 下列哪个Tensor的属性可以描述每个维度上元素的数量（） B
A、 ndim
B、 shape
C、 size
D、 axis

二、 简答题
1、 简述在机器学习中的噪声定义
噪声（或者杂讯 noise），一般可以归结为一下两种（以二分为例）：
输入错误：
1.在收集数据的时由于数据源的随机性会出现错误（比如说，客户在填信息的时候出现的误填，或收集干扰、错误数据）
输出错误：
1.同样的一笔数据会出现两种不同的评判
2.在同样的评判下会有不同的后续处理

2、 针对Mini-Batch梯度下降（MBGD）的优化三种方式分别是？
（1）控制梯度变化
动量梯度下降 GDM
（2）控制学习率的变化
均方根加速算法 RMSProp和AdpGrad
（3）梯度、学习率综合控制
Adam

3、 如何选择激活函数
中间层
•中间层普遍使用relu
输出层
•多分类一般是softmax和交叉熵
•二分类就是sigmoid和交叉熵
•回归用linear线性激活函数，loss用mse

4、 M-P模型的工作三个步骤
(1)神经元接受 n 个输入信号。
(2)将输入与权值参数进行加权求和并经过激活函数激活。
(3)将激活结果作为结果输出。

5、 激活函数的作用
为神经网络各层之间的连接方式提供了一种非线性的交换方式

6、 罗列梯度下降的三种方式
批量梯度下降，BGD
随机梯度下降，SGD
小批量梯度下降， MBGD

7、 罗列出常用的损失函数
1、最小二乘法（最小平方损失函数）
2、均方误差损失函数（MSE，mean squared error)
3、交叉熵损失函数(Cross-entropy loss function)

8、 （1）人工智能、机器学习、深度学习三者之间的关系
（2）深度学习和机器学习区别
1）三者关系
人工智能涵盖的范围最广，机器学习是一种实现人工智能的重要手段，深度学习作为机器学习的一个分支领域
2）
深度学习具备自动提取抽象特征的能力
机器学习大多是人们主动选取特征和构造特征

9、 什么是泛化
"泛化"指的是一个假设模型能够应用到新样本的能力
模型对训练集以外样本的预测能力就称为模型的泛化能力

10、什么是过拟合
过拟合就是模型训练过程中，对训练数据学习过度，将数据中噪声也学习，使得模型在训练集上表现良好，而在测试集上表现很差的现象

三、 计算题
经历上一层卷积运算和下采样，得到的16个特征图，每个特征图大小1010，设计使用160个规格为55的卷积核进行valid卷积，步长为1，则输出矩阵的维度分别是多少？
(10－5)/1+1=6
160/16=10
所以输出矩阵的维度为6610