19.有哪些文本表示模型，他们各有什么优缺点

1.词袋模型/N-gram

每篇文章表示成一个N维向量，每一维度表示一个单词，值为这个词对这篇文章的重要程度，计算公式为：

TF-IDF(t,d) = TF(t,d)*IDF(t)

其中，TF(t,d)为单词t在文档d中出现的频率，IDF(t) = log(文章总数/(包含单词t的文章总数+1)) ，IDF公式可理解为如果一个词出现的文章数越多那么说明它越是一个通用词，通用词对文档内容贡献度比较小。但是词袋忽略了由几个词组成一个意思这种情况（“如NBA吐槽大会”这种，分解成了NBA和吐槽大会，结果匹配了很多李诞这样和NBA完全不相关的物料），因此后续由N-gram模型为

基于词袋模型的改进，N-gram将连续出现的N个词组成的词组也作为一维放到向量表示中去。但是N-gram不能识别两个不同的词由相同的主题。

3.主题模型

参考：https://blog.csdn.net/haidixipan/article/details/84299039对主题模型LDA的介绍

4.词嵌入模型/深度学习模型

参考：https://blog.csdn.net/haidixipan/article/details/84299039对主题模型word2vec的介绍，即将词由K维向量表示，如果一个文档由N个词，那么组成了一个N*K维的矩阵，如果仅仅把这个矩阵作为浅层模型输入往往难以得到满意的结果（模型不知道词与词之间的关系，提取不出更高维的语义特征），而深度学习模型为我们提供了一个更好的自动特征工程方式，每个隐层都对应不同的抽象特征，尤其是卷积神经网络和循环神经网络结构在文本表示中效果突出。