深度学习的自然语言处理-课程笔记-1

课程链接:https://www.bilibili.com/video/av15892671/?spm_id_from=333.788.b_636f6d6d656e74.29（b站）

https://www.youtube.com/watch?v=OQQ-W_63UgQ&list=PL3FW7Lu3i5Jsnh1rnUwq_TcylNr7EkRe6&index=2&t=0s（youtube）

大牛的读书笔记：http://www.hankcs.com/nlp/cs224n-introduction-to-nlp-and-deep-learning.html

斯坦福的课程链接：http://web.stanford.edu/class/cs224n/ （上面有课件更新，正好2019春季刚开课，可以同步学）

https://web.stanford.edu/class/archive/cs/cs224n/cs224n.1174/syllabus.html (2017年版的课件）

第一节课基本上看大牛的读书笔记对照slides就可以了，都是入门级的介绍，不需要花太多的时间。

按照lecture plan整理知识点如下：

1、什么是自然语言处理？

自然语言处理是计算机科学、人工智能以及语言学的交叉领域。它的目标是用计算机来处理自然语言，以完成一些任务，例如购物、智能问答等。

2、什么是深度学习?

深度学习是机器学习的子集。大多数的机器学习方法表现很好是因为人类设计了特征的表达，机器学习变成了优化特征的权重。深度学习是直接根据原始的数据输入，直接学习特征或者表达，并输出。人工设计的特征具有针对性（over-specified），不易拓展且耗时较多。深度学习学习的特征易拓展、且有一套国际通用的框架来表示单词、视觉或者语音信息，监督或者非监督的任务都适用。

3、为什么语言理解难？

人类的语言是用来传递信息的，是离散的、符号化的、分类的指令系统，但是大脑的编码看上去像是连续的激活模式，而且信号的传递是通过连续的光和声的信号。

4、基于DL的NLP的应用

• 语音识别（context-dependent pre-trained deep neural networks for large vocabulary speech recognition. Dahl et al 2010）
• 计算机视觉（imagenet classification with deep convolutional neural networks. Krizhevsky 2012）
• 句法分析
• 语义分析
• 情感分析
• 问答系统（QA）
• 对话系统
• 机器翻译