自然语言处理（NLP）学习笔记（1）

一、自然语言处理常见应用：

1. 拼写检查、关键词检索
2. 文本挖掘（产品价格、日期、时间、地点、人名、公司名）
3. 文本分类
4. 机器翻译
5. 客服系统
6. 复杂对话系统

二、与深度学习的联系：

为什么需要深度学习

• 手工特征耗时耗力，还不易拓展，
• 自动特征学习，方便拓展
• 深度学习提供了一种通用的血虚框架，可用来表示世界、视觉和语言学信息
• 深度学习既可以无监督学习，也可以监督学习。

三、语言模型：

eg.  我 今天 下午 打 篮球

P(S)=p(w1,w2,w3,w4,w5,...,wn)=

p(w1,w2,w3,w4,w5,...,wn)=p(w1)p(w2 | w1)p(w3 | w2,w1)p(w4 | w1,w2,w3)...p(wn | w1,w2,...wn-1)

p(s)被称为语言模型，用来计算一个句子的概率的模型，可以理解为概率统计里的条件概率

N-gram模型

N一般取3-4，太大无用