微博情感分析实战代码

原理

比如这么一句话：“这手机的画面极好，操作也比较流畅。不过拍照真的太烂了！系统也不好。”

① 情感词

要分析一句话是积极的还是消极的，最简单最基础的方法就是找出句子里面的情感词，积极的情感词比如：赞，好，顺手，华丽等，消极情感词比如：差，烂，坏，坑爹等。出现一个积极词就+1，出现一个消极词就-1。

里面就有“好”，“流畅”两个积极情感词，“烂”一个消极情感词。那它的情感分值就是1+1-1+1=2. 很明显这个分值是不合理的，下面一步步修改它。

② 程度词

“好”，“流畅”和‘烂“前面都有一个程度修饰词。”极好“就比”较好“或者”好“的情感更强，”太烂“也比”有点烂“情感强得多。所以需要在找到情感词后往前找一下有没有程度修饰，并给不同的程度一个权值。比如”极“，”无比“，”太“就要把情感分值4，”较“，”还算“就情感分值2，”只算“，”仅仅“这些就0.5了。那么这句话的情感分值就是：41+12-14+1=3

③ 感叹号

可以发现太烂了后面有感叹号，叹号意味着情感强烈。因此发现叹号可以为情感值+2. 那么这句话的情感分值就变成了：41+12-1*4-2+1 = 1

④ 否定词

明眼人一眼就看出最后面那个”好“并不是表示”好“，因为前面还有一个”不“字。所以在找到情感词的时候，需要往前找否定词。比如”不“，”不能“这些词。而且还要数这些否定词出现的次数，如果是单数，情感分值就-1，但如果是偶数，那情感就没有反转，还是1。在这句话里面，可以看出”好“前面只有一个”不“，所以”好“的情感值应该反转，*-1。

因此这句话的准确情感分值是：41+12-14-2+1-1 = -1

⑤ 积极和消极分开来

再接下来，很明显就可以看出，这句话里面有褒有贬，不能用一个分值来表示它的情感倾向。而且这个权值的设置也会影响最终的情感分值，敏感度太高了。因此对这句话的最终的正确的处理，是得出这句话的一个积极分值，一个消极分值（这样消极分值也是正数，无需使用负数了）。它们同时代表了这句话的情感倾向。所以这句评论应该是”积极分值：6，消极分值：7“

⑥ 以分句的情感为基础

再仔细一步，详细一点，一条评论的情感分值是由不同的分句加起来的，因此要得到一条评论的情感分值，就要先计算出评论中每个句子的情感分值。这条例子评论有四个分句，因此其结构如下（[积极分值, 消极分值]）：[[4, 0], [2, 0], [0, 6], [0, 1]]

以上就是使用情感词典来进行情感分析的主要流程了，算法的设计也会按照这个思路来实现。

算法设计

第一步：读取评论数据，对评论进行分句。

第二步：查找对分句的情感词，记录积极还是消极，以及位置。

第三步：往情感词前查找程度词，找到就停止搜寻。为程度词设权值，乘以情感值。

第四步：往情感词前查找否定词，找完全部否定词，若数量为奇数，乘以-1，若为偶数，乘以1。

第五步：判断分句结尾是否有感叹号，有叹号则往前寻找情感词，有则相应的情感值+2。

第六步：计算完一条评论所有分句的情感值，用数组（list）记录起来。

第七步：计算并记录所有评论的情感值。

第八步：通过分句计算每条评论的积极情感均值，消极情感均值，积极情感方差，消极情感方差。

实战

1.先用爬虫将想要的文本爬下来

#先引入库
import requests
from bs4 import BeautifulSoup
url=r"https://m.weibo.cn/status/4089673821592515"
data=requests.get(url,'r')#获取原网页
soup=BeautifulSoup(data.text,'html.parser')
#找到所有的文本数据
tt=soup.find_all('meta')
data=[]
for i in tt:
    data.append(i.string)#用data数组保存所有的文本数据

2.对文本进行分词和去停词操作

from collections import defaultdict
import os
import re
import jieba
import codecs
#jieba分词后去除停用词
def seg_word(sentence):
    seg_list = jieba.cut(sentence)#分词
    seg_result = []
    for i in seg_list:
        seg_result.append(i)#保存分词后的结果
    stopwords = set()
    with open('C:\\Users\\杨俊jimore\\Desktop\\数据集\\文本情感分析\\情感极性词典\\stopwords.txt','r',encoding='utf-8') as fr:
        for i in fr:
            stopwords.add(i.strip())#stopwords保存的就是停用词集合
    return list(filter(lambda x :x not in stopwords,seg_result))#去除停用词

3.找出文本中的情感词、否定词和程度副词

#找出文本中的情感词、否定词和程度副词
def classify_words(word_list):
    #读取情感词典文件
    sen_file = open('C:\\Users\\杨俊jimore\\Desktop\\数据集\\文本情感分析\\情感极性词典\\BosonNLP_sentiment_score.txt','r+',encoding='utf-8')
    #获取词典文件内容
    sen_list = sen_file.readlines()
    #创建情感字典
    sen_dict = defaultdict()
    #读取词典每一行的内容，将其转换成字典对象，key为情感词，value为其对应的权重
    for i in sen_list:
        if len(i.split(' '))==2:
            sen_dict[i.split(' ')[0]] = i.split(' ')[1]
#读取程度副词文件
    degree_file = open('C:\\Users\\杨俊jimore\\Desktop\\数据集\\文本情感分析\\情感极性词典\\程度副词.txt','r+',encoding='utf-8')
    degree_list = degree_file.readlines()
    degree_dict = defaultdict()
    for i in degree_list:
        degree_dict[i.split(',')[0]] = i.split(',')[1]
    sen_word = dict()
    not_word = dict()
    degree_word = dict()
#分类
    for i in range(len(word_list)):
        word = word_list[i]
        if word in sen_dict.keys():
        # 找出分词结果中在情感字典中的词
            sen_word[i] = sen_dict[word]
        elif word in not_word_list:
            # 分词结果中在否定词列表中的词
            not_word[i] = -1
        elif word in degree_dict.keys():
                # 分词结果中在程度副词中的词
            degree_word[i]  = degree_dict[word]
    #关闭打开的文件
    sen_file.close()
    not_word_file.close()
    degree_file.close()
    #返回分类结果
    return sen_word,not_word,degree_word

4.计算情感词的分数

#计算情感词的分数
def score_sentiment(sen_word,not_word,degree_word,seg_result):
    #情感词的位置下标集合
    sentiment_index_list = list(sen_word.keys())
    #权重初始化为1
    if len(sentiment_index_list)>0 and len(not_word.keys())>0 and sentiment_index_list[0]>list(not_word.keys())[0]:
        W=-1
    else:
        W = 1
    score = 0
    #情感词下标初始化
    sentiment_index = -1
    #遍历分词结果
    for i in range(0,len(seg_result)):
        #如果是情感词
        if i in sen_word.keys():
            #权重*情感词得分
            score += W*float(sen_word[i])
            #情感词下标加一，获取下一个情感词的位置
            sentiment_index += 1
            if sentiment_index < len(sentiment_index_list)-1:
                #判断当前的情感词与下一个情感词之间是否有程度副词或否定词
                for j in range(sentiment_index_list[sentiment_index],sentiment_index_list[sentiment_index+1]):
                    #更新权重，如果有否定词，权重取反
                    if j in not_word.keys():
                        W *= -1
                    elif j in degree_word.keys():
                        W *= float(degree_word[j])
        #定位到下一个情感词
        if sentiment_index < len(sentiment_index_list)-1:
            i = sentiment_index_list[sentiment_index+1]
    return score

5.计算得分

#计算得分
def sentiment_score(sentence):
    #1.对文档分词
    seg_list = seg_word(sentence)
    print(seg_list)
    #2.将分词结果转换成字典，找出情感词、否定词和程度副词
    sen_word,not_word,degree_word = classify_words(seg_list)
    print(sen_word)
    print(not_word)
    print(degree_word)
    #3.计算得分
    score = score_sentiment(sen_word,not_word,degree_word,seg_list)
    return score

6.将爬取的数据进行计算

score=[]
for i in data:
    score.append(sentiment_score(i))#score里面存的就是每一条数据的得分
    #正数代表积极，否则就是消极

代码中的文档：https://kexue.fm/usr/uploads/2017/09/1922797046.zip