Python3 处理文章文本,分词统计,文本检索,并制作词云

文本处理

  1. 从data文件夹中读取每一个text文件并分词
  2. 用TextRank4Keyword类对文本进行分词并提取关键词,并将提取出的关键词写到output文件夹中的同名文件中
  3. 读取output中的关键词文件,并建立词向量统计词频
  4. 将统计出的词频写入到Word frequency.txt文件中

文本检索Python3 处理文章文本,分词统计,文本检索,并制作词云_第1张图片

生成词云 words cloud

#coding=utf-8
import os
from wordcloud import WordCloud

if __name__ == '__main__':
    rootdir = 'output'
    list = os.listdir(rootdir)
    wordsdic=''
    for i in range(0, len(list)):
        path = os.path.join(rootdir, list[i])
        if os.path.isfile(path):
            #print(path)
            tempf=open(path,mode='r',encoding='utf-8')
            temptext=tempf.read()
            onelist=str(temptext[1:-1]).split(",")
            #print(onelist)
            for onew in onelist:
                wordsdic=wordsdic+','+onew
    #print(wordsdic)
    wc = WordCloud(
        background_color="white", #背景颜色
        max_words=300, #显示最大词数
        #font_path="./font/wb.ttf",  #使用字体
        min_font_size=15,
        max_font_size=50,
        width=800,  #图幅宽度
        height=700
        )
    wc.generate(wordsdic)
    wc.to_file("words_cloud.png")

Python3 处理文章文本,分词统计,文本检索,并制作词云_第2张图片
完整代码:https://download.csdn.net/download/Datapad/67637102

你可能感兴趣的:(自然语言处理,Python,自然语言处理,python,数据挖掘)