第一门课神经网络和深度学习(一)-深度学习引言

本次学习笔记主要记录学习深度学习时的各种记录,包括吴恩达老师视频学习、花书。作者能力有限,如有错误等,望联系修改,非常感谢!

神经网络和深度学习(一)-深度学习引言

  • 一、欢迎(Weclome)
  • 二、什么是神经网络(What is Neural Network)
  • 三、用神经网络进行监督学习(supervised learning with neural networks)
    • 神经网络例子
    • 结构化数据vs非结构化数据
  • 四、为什么深度学习会兴起?(why is deep learning taking off)
  • 五、关于这门课(about this course)
  • 六、课程资源(course resources)


第一版       2022-03-21        初稿

一、欢迎(Weclome)

我们所有人都有机会创造一个惊人的世界和社会。
AI is the new electricity!
what you’ll learn:
1.以猫作为对象识别
2.实践:
超参数调整hyperparameter tuning
正则化regularization
诊断偏差、方差
高级优化算法optimization:Momentum、Adam
3.结构化ML工程
4.CNN(s)卷积,常被用于图像领域
5.序列模型、RNN(循环)→LSTM(长短期记忆网络)、NLP

二、什么是神经网络(What is Neural Network)

例:房价预测
已知六套房的大小和价格
第一门课神经网络和深度学习(一)-深度学习引言_第1张图片
下图不仅用了尺寸和价格,还加入其他特征。
第一门课神经网络和深度学习(一)-深度学习引言_第2张图片

三、用神经网络进行监督学习(supervised learning with neural networks)

监督学习里,输入x,习得一个函数映射到输出y
第一门课神经网络和深度学习(一)-深度学习引言_第3张图片
1.房地产、广告 → 相对标准的神经网络
2.图像 → CNN
3.序列数据 → RNN、音频中含有时间成分

神经网络例子

第一门课神经网络和深度学习(一)-深度学习引言_第4张图片

结构化数据vs非结构化数据

第一门课神经网络和深度学习(一)-深度学习引言_第5张图片
1.结构化数据 → 数据的数据库
2.非结构化数据 → 音频等

四、为什么深度学习会兴起?(why is deep learning taking off)

如下图,横轴代表数据量,竖轴代表机器学习算法的性能。
这些模型无法处理大量数据。
第一门课神经网络和深度学习(一)-深度学习引言_第6张图片
规模一直推动神经网络的前进,我们需要一个有许多隐藏单元的神经网络、连接层,大量”规模“数据。
第一门课神经网络和深度学习(一)-深度学习引言_第7张图片
Data
Computation
Algorithms
第一门课神经网络和深度学习(一)-深度学习引言_第8张图片

五、关于这门课(about this course)

week 1:深度学习介绍
week 2:神经网络编程,了解神经网络中“正向传播”和“反向传播”的结构,算法过程
week 3:编写单隐藏层神经网络
week 4:建立多层的深层的神经网络
每周都会有检测题

六、课程资源(course resources)

coursera
论坛

1


  1. 深度学习-吴恩达 ↩︎

你可能感兴趣的:(深度学习,深度学习,神经网络)