016【编程】word2vec新手项目

项目目的

学习如何使用Word2Vec来对文本文件进行处理。

项目地址:word2vec-movies

来源

这个笔记是基于Kaggle比赛:Bag of words meets bags of popcorn。打开页面后可以看到有关于NLP的相关教程,于是我把Part1~3用中文写了三个笔记进行记录。

因为年代比较久远,而且是用pytohn2实现的,我重新用python3实现的过程中填了不少坑,可以直接拿来学习。

尤其是关于gensim中word2vec模型里,有一些API发生了变化。具体可以看我笔记中的写法,都是可以正常运行的。

内容

  • Part 1 For Beginners Bag of Words(词袋初学者)
  • Part 2 Word Vectors(词向量)
  • Part 3 More Fun With Word Vectors(词向量的更多用法)

用到的库

以下库全基于python3.5.2:

  • pandas==20.3
  • scikit-learn==0.19.0
  • numpy==1.13.1
  • jupyter==1.0.0

计划

因为这个笔记里的内容只是kaggle项目上给出的教学部分,实际得分最好也只有0.84,所以充其量只能是一个了解word2vec的教程,内容本身并不深入。

于是我找到了这个项目:sentiment-analysis,作者写了三个模型,前两个在教程中出现过了,第三个使用Ensemble的方法把前两个模型组合了起来,最后得分能到0.96。而且作者代码组织得也不错,可以用来学习如何写一个完整的项目,而不是仅仅在Jupyter Notebook上写。

不过因为年代比较久远,作者用的是python2,而且很多其他包的API变了,所以我打算也全部用pytohn3重写一下,一遍学习一边分享出来。项目地址在这里:sentiment-analysis

你可能感兴趣的:(016【编程】word2vec新手项目)