R语言文本挖掘tf-idf,主题建模，情感分析,n-gram建模研究|附代码数据

原文链接：http://tecdat.cn/?p=6864

我们围绕文本挖掘技术进行一些咨询，帮助客户解决独特的业务问题。
我们对20个Usenet公告板的20,000条消息进行分析（ 点击文末“阅读原文”获取完整代码数据）。

此数据集中的Usenet公告板包括新汽车，体育和密码学等主题。

预处理

我们首先阅读20news-bydate文件夹中的所有消息，这些消息组织在子文件夹中，每个消息都有一个文件。

raw_text

## # A tibble: 511,655 x 3
##    newsgroup   id    text                                                              
##                                                                         
##  1 alt.atheism 49960 From: mathew                                 
##  2 alt.atheism 49960 Subject: Alt.Atheism FAQ: Atheist Resources                       
##  3 alt.atheism 49960 Summary: Books, addresses, music -- anything related to atheism   
##  4 alt.atheism 49960 Keywords: FAQ, atheism, books, music, fiction, addres

## # … with 511,645 more rows

请注意该newsgroup列描述了每条消息来自哪20个新闻组，以及id列，用于标识该新闻组中的消息。

tf-idf

TF是词频(Term Frequency)，IDF是逆文本频率指数(Inverse Document Frequency)。我们希望新闻组在主题和内容方面有所不同，因此，它们之间的词语频率也不同。

newsgroup_cors

## # A tibble: 380 x 3
##    item1                    item2                    correlation
##                                                  
##  1 talk.religion.misc       soc.religion.christian         0.835
##  2 soc.religion.christian   talk.religion.misc             0.835
##  3 alt.atheism              talk.religion.misc             0.779
##  4 talk.religion.misc       alt.atheism                    0.779
##  5 alt.atheism              soc.religion.christian         0.751
##  6 soc.religion.christian   alt.atheism                    0.751
##  7 comp.sys.mac.hardware    comp.sys.ibm.pc.hardware       0.680
##  8 comp.sys.ibm.pc.hardware comp.sys.mac.hardware          0.680
##  9 rec.sport.baseball       rec.sport.hockey               0.577
## 10 rec.sport.hockey         rec.sport.baseball             0.577
## # … with 370 more rows