深度学习-吴恩达：一、神经网络和深度学习

1、what is a Neural Network?（什么是神经网络）

示例：房价预测

Xsize → 神经元 → Yprice

X从0开始，函数长这个样子：


基于房子面积和房间数量，可以估算家庭人口数量
基于邮政编码，可以估算步行化程度
基于邮政编码，可以评估学校质量




隐藏神经单元并不是人为指定的代表什么含义，而是神经网络根据输入层数据，自己决定这个节点是什么

小结
什么是神经网络？就是下图中的：

2、Supervised Learning with Neural Networks （监督学习）

监督学习，案例

图像领域：卷积神经网络
序列数据：循环神经网络

序列数据：音频（时间上的一维序列）、语言

3、为什么深度学习会兴起？

大量数据远超过传统学习算法能发挥作用的规模

对于神经网络来说，训练一个规模比较大的神经网络，性能就会很好

只有在大数据领域（也就是训练集规模m很大的时候，也就是水平轴x轴），才能看到神经网络的优势
在训练集不大的那部分，各种算法的性能排名并不是很确定。训练集不大的时候，效果会取决于手工设计的组件

规模中包括：包含很多隐藏单元的神经网络（很多参数、很多连接）、数据规模

第一周测验

第一周测验 - 深度学习简介
测验题来自：原文链接

1、和“AI是新电力”相类似的说法是什么？
A. AI为我们的家庭和办公室的个人设备供电，类似于电力
B. 通过“智能电网”，AI提供新的电能
C. AI在计算机上运行，​​并由电力驱动，但是它正在让以前的计算机不能做的事情变为可能
D. 就像100年前产生电能一样，AI正在改变很多的行业

请注意: 吴恩达在视频中表达了同样的观点。

2、哪些是深度学习快速发展的原因？ (两个选项)
A. 现在我们有了更好更快的计算能力
B. 神经网络是一个全新的领域
C. 我们现在可以获得更多的数据
D. 深度学习已经取得了重大的进展，比如在在线广告、语音识别和图像识别方面有了很多的应用

3、回想一下关于不同的机器学习思想的迭代图，下面哪（个/些）陈述是正确的？
A. 能够让深度学习工程师快速地实现自己的想法
B. 在更好更快的计算机上能够帮助一个团队减少迭代(训练)的时间
C. 在数据量很多的数据集上训练上的时间要快于小数据集
D. 使用更新的深度学习算法可以使我们能够更快地训练好模型（即使更换CPU / GPU硬件）

请注意: 同一模型在较大的数据集上通常需要花费更多时间。

4、当一个经验丰富的深度学习工程师在处理一个新的问题的时候，他们通常可以利用先前的经验来在第一次尝试中训练一个表现很好的模型，而不需要通过不同的模型迭代多次从而选择一个较好的模型，这个说法是正确的吗？
【 】正确
【】 错误

请注意：也许之前的一些经验可能会有所帮助，但没有人总是可以找到最佳模型或超参数而无需迭代多次。

5、这些图中的哪一个表示ReLU激活功能？
选项：无

答案：

6、用于识别猫的图像是“结构化”数据的一个例子，因为它在计算机中被表示为结构化矩阵，是真的吗？
【 】正确
【】 错误

7、统计不同城市人口、人均GDP、经济增长的人口统计数据集是“非结构化”数据的一个例子，因为它包含来自不同来源的数据，是真的吗？
【 】正确
【】 错误

单纯的看以上数据的话就是非结构化数据，但是这些数据都被整合到了数据集里面，所以是结构化数据。

8、为什么在上RNN（循环神经网络）可以应用机器翻译将英语翻译成法语？
【】 因为它可以被用做监督学习。
【 】严格意义上它比卷积神经网络（CNN）效果更好。
【】 它比较适合用于当输入/输出是一个序列的时候（例如：一个单词序列）
【 】RNNs代表递归过程：想法->编码->实验->想法->…

9、.在我们手绘的这张图中，横轴（x轴）和纵轴（y轴）代表什么?

x轴是___________， y轴（垂直轴）是___________

10、假设上一个问题图中描述的是准确的（并且希望您的轴标签正确），以下哪一项是正确的?
【】增加训练集的大小通常不会影响算法的性能，这可能会有很大的帮助。
【】增加神经网络的大小通常不会影响算法的性能，这可能会有很大的帮助。
【】减小训练集的大小通常不会影响算法的性能，这可能会有很大的帮助。
【】减小神经网络的大小通常不会影响算法的性能，这可能会有很大的帮助。

前两个选项正确
选项理解：不会负面影响算法的性能
原题英文版：使用的词是 hurt

测验题答案

1、D
2、AC
3、ABD
4、错误
5、略
6、错误
7、错误
8、AC
9、x轴是数据量，y轴（垂直轴）是算法的性能
10、AB