中文自然语言处理--jieba基于 TextRank 算法进行中文文本中的关键词提取

TextRank 是由 PageRank 改进而来,核心思想将文本中的词看作图中的节点,通过边相互连接,不同的节点会有不同的权重,权重高的节点可以作为关键词

# -*- coding:utf-8 -*-
import jieba.analyse

# 采用的语料来自于百度百科对人工智能的定义,获取 Top5 关键字,用空格隔开打印
sentence = "人工智能(Artificial Intelligence),英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。" \
           "人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。" \
           "人工智能从诞生以来,理论和技术日益成熟,应用领域也不断扩大,可以设想,未来人工智能带来的科技产品,将会是人类智慧的“容器”。" \
           "人工智能可以对人的意识、思维的信息过程的模拟。人工智能不是人的智能,但能像人那样思考、也可能超过人的智能。" \
           "人工智能是一门极富挑战性的科学,从事这项工作的人必须懂得计算机知识,心理学和哲学。人工智能是包括十分广泛的科学,它由不同的领域组成,如机器学习,计算机视觉等等," \
           "总的说来,人工智能研究的一个主要目标是使机器能够胜任一些通常需要人类智能才能完成的复杂工作。但不同的时代、不同的人对这种“复杂工作”的理解是不同的。" \
           "2017年12月,人工智能入选“2017年度中国媒体十大流行语”。"

# 基于 TextRank 算法进行关键词提取
# TextRank 是由 PageRank 改进而来,核心思想是将文本中的词看作图中的节点,通过边相互连接,
# 不同的节点会有不同的权重,权重高的节点可以作为关键词
# jieba 已经实现了基于 TextRank 算法的关键词抽取,通过命令 import jieba.analyse 引用
'''
    sentence:待提取的文本语料;
    topK:返回 TF/IDF 权重最大的关键词个数,默认值为 20;
    withWeight:是否需要返回关键词权重值,默认值为 False;
    allowPOS:仅包括指定词性的词,默认值为空,即不筛选。
'''
result = "  ".join(jieba.analyse.textrank(sentence, topK=20, withWeight=False, allowPOS=('ns', 'n', 'vn', 'v')))
print(result)
# 只需要名词和动词
result = "  ".join(jieba.analyse.textrank(sentence, topK=20, withWeight=False, allowPOS=('n', 'v')))
print(result)

原文:
https://soyoger.blog.csdn.net/article/details/108729412

你可能感兴趣的:(中文自然语言处理,python,中文自然语言处理,jieba)