【面试】GloVe、word2vec和lsa区别

 GloVe 与 Word2Vec 进行对比:

  1. Word2Vec 有神经网络,GloVe 没有;
  2. Word2Vec 关注了局部信息,GloVe 关注局部信息和全局信息;
  3. 都有滑动窗口但 Word2Vec 是用来训练的,GloVe 是用来统计共现矩阵的;
  4. GloVe 的结构比 Word2Vec 还要简单,所以速度更快;

再试着将 GLoVe 与 SVD 进行对比:

  1. SVD 所有单词统计权重一致,GloVe 对此进行了优化;
  2. GloVe 使用比值而没有直接使用共现矩阵。

当然 GloVe 看着那么好,其实并不一定,在很多任务中都没 Word2Vec 的效果好。

毕竟没有最好的模型,只有最适合的模型。

你可能感兴趣的:(面试,NLP)