笔记：神经网络与深度学习—绪论

---

绪论

最近开始学习机器学习，从B站找到了一篇网课：复旦大学——邱锡鹏的《神经网络与机器学习》，因此写了几篇课程笔记，以便日后学习。
课程链接
课本以及课程PPT下载

---

一、关于本课程

人工智能的一个子领域。
神经网络：一种以（人工）神经元为基本单元的模型
深度学习：一类机器学习问题，主要解决贡献度分配问题
这门课大致讲两者的交集：以神经网络为主要模型的深度学习。

1.知识结构

对这门课涉及的知识进行一个梳理

按照顺序来

2.推荐教材

邱锡鹏,神经网络与深度学习,机械工业出版社, 2020，ISBN 9787111649687
https://nndl.github.io/
提供配套练习

阿斯顿·张等,动手学深度学习, ISBN: 9787115505835
https://d2l.ai/
有PyTorch版

Bishop, C.M. (2006). Pattern recognition and Machine Learning. Springer. ISBN 9780387310732.
网上有中文版 by马春鹏

Wright, S., & Nocedal, J. (1999). Numerical optimization. Springer Science, 35(67-68), 7.

Boyd, S., & Vandenberghe, L. (2004). Convex optimization. Cambridge university press.

3.推荐课程

斯坦福大学CS224n: Deep Learning for Natural Language Processing
https://web.stanford.edu/class/archive/cs/cs224n/cs224n.1194/

Chris Manning 主要讲解自然语言处理领域的各种深度学习模型
斯坦福大学CS231n: Convolutional Neural Networks for Visual Recognition
http://cs231n.stanford.edu/

Fei-Fei Li Andrej Karpathy 主要讲解CNN、RNN在图像领域的应用
加州大学伯克利分校 CS 294: Deep Reinforcement Learning
http://rail.eecs.berkeley.edu/deeprlcourse/

二、常用的深度学习框架

简易和快速的原型设计
自动梯度计算
无缝CPU和GPU切换