深度学习笔记1——神经网络与深度学习基础

Introduction to Deep Learning

   “深度学习”指的是训练神经网络
什么是神经网络？
   一个拟合函数可以看成是最简单的神经网络：
   我们把房子的大小做为输入x，房子的价格做为输出y，由于价格不能为负，拟合函数：

   神经网络 的文献中经常可以看到这个函数—ReLU，修正线性函数

   通过堆叠神经元来获得更大的神经网络。现在不光仅使用大小来预测房屋价格，加入考虑的其他因素：

   这个例子中，四个x做为输入，预测的价格y做为输出。图中每一个“圆”都代表着一个ReLU函数。
   神经网络的神奇之处在于只要给定了输入x，就能得到输出y，而其他的所有中间过程它会自己完成，不管训练集有多大。

Supervised Learning

   几乎所有神经网络创造的经济价值都基于一种机器学习——监督学习
   监督学习的定义：给定一个数据集，并且给定正确答案，数据集中的每个例子，算法将预测得到例子的“正确答案”。

Neural Network Example

Structured Data and Unstructured Data

    人类更擅长理解unstructured data，机器更擅长理解structured data。

Why are neural networks just now taking off ？

   Scale drives deep learning progress.
   ● Data ● Computation ● Algorithms
   数据集的数字化、计算能力的提升以及算法的优化（本质提升计算能力）使得深度学习得到了迅速的发展。
不同算法对训练集数量和表现性能之间的相应曲线：

课程资料

视频资源：【中英字幕】吴恩达深度学习课程第一课 — 神经网络与深度学习
课后题：【目录】【中文】【deplearning.ai】【吴恩达课后作业目录】