转自:https://mp.weixin.qq.com/s/Vrbd_AYw7hgHWc5HJmzt6Q
李沐老师的新课,这个月就要在伯克利开讲了。
这是一门深度学习基础课,一周两节;每节课后,都会有课堂视频放出。
课程内容,大致是按照李沐老师的开源新书《动手学深度学习》来安排的 (但和去年放出的同名课程并不一样) 。
除了沐神,另外一位讲师是这本书的共同作者、亚马逊的同事Alex Smola。
课程会从基础概念开始讲起。
比如,数学和统计学范畴的链式法则、贝叶斯定理、逻辑回归等等。
比如,深度学习入门需要的批尺寸 (Batch Size) 、学习率(Learning Rate) 、多层感知器 (MultiLayer Perceptrons) 、反向传播、随机梯度下降等等。
在那之后,便会走进神经网络的世界。
先是卷积网络(CNN) ,从简单的LeNet开始,到ResNet这类用来做高精度模型的架构。
再来就是序列模型 (Sequence Models) 和循环网络 (RNN) 。LSTM、GRU以及注意力机制都会在这里登场。
△ 5月,就要搭建大规模视觉模型了
作为一门注重实践的课程,课程表里有四节课标注了Making it Work,那便是老师向同学们传授实现大法的时候。
以及,这门课完全基于Jupyter Notebook,每节课的内容,都有代码可以运行。
所以,就算没有标注Making it Work,也可以自行实践 (比如下面这个皮卡丘检测活动) 。
另外,每周都会有作业题目放到网上。温馨提示,这是一门需要不停写代码的、强度很大的课。
需要注意的是,虽然是基础课,大家也要携带Python基础,一点点线代基础,一点点统计学基础,再来上课。毕竟,这些部分不会讲得太细。
1月22日,新课才会开讲。
现在,虽然还没有视频 (开学就有了) ,也没有留作业,但最新版教材已经开源了啊。
英文版叫Dive into Deep Learning,就是课程制定教材。
中文版叫《动手学深度学习》,这下没有借口了:
老师没来,大家就先预习吧:不光有正文,还有GitHub项目,以及Jupyter Notebook。
以及,去年李沐老师还有教材同名课程放出,所有视频都在等你。
新课GitHub传送门:
https://github.com/diveintodeeplearning/berkeley-stat-157
新课视频列表 (待填坑) 传送门:
https://www.youtube.com/playlist?list=PLZSO_6-bSqHQHBCoGaObUljoXAyyqhpFW
教材传送门:
http://www.d2l.ai/ (英)
http://zh.d2l.ai/ (中)
旧课传送门:
https://discuss.gluon.ai/t/topic/753