Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战

说明:这是一个机器学习实战项目(附带数据+代码+文档+视频讲解),如需数据+代码+文档+视频讲解可以直接到文章最后获取。

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第1张图片 

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第2张图片

1.项目背景

随着互联网的发展,越来越多的用户通过互联网来交流,电子邮件成为人们日常生活交流的重要工具。用户每星期可能收到成百上千的电子邮件,但是大部分是垃圾邮件。据时代杂志估计,1994年人们发送了7760亿封电子邮件,1997年则是26000亿封,2000年更是达到了66000亿封。电子邮件特别是垃圾邮件的泛滥已经严重影响电子商务活动的正常开展。人们通常要花费很多时间对电子邮件进行处理,但效果却不明显,严重影响了正常的商务活动。对邮件进行合理的分类,为用户挑选出有意义的电子邮件是所有用户的迫切要求。

目前的邮件分类方法大多是将邮件分为垃圾邮件与非垃圾邮件,从而实现对邮件的自动过滤。本项目基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类,邮件类别分为正常邮件和垃圾邮件。

2.数据采集

本次建模数据来源于网络,数据项统计如下:

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第3张图片

数据详情如下(部分展示):

正常邮件:

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第4张图片

垃圾邮件:

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第5张图片

每一行代表一封邮件。

3.数据预处理

3.1查看数据

print("总的数据量:", len(labels))

corpus, labels = remove_empty_docs(corpus, labels)  # 移除空行

print('样本之一:', corpus[10])
print('样本的label:', labels[10])
label_name_map = ["垃圾邮件", "正常邮件"]
print('实际类型:', label_name_map[int(labels[10])])

 结果如图所示:

4.特征工程

4.1数据集拆分

把数据集分为70%训练集和30%测试集。

4.2加载停用词

 停用词列表如下,部分展示:

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第6张图片

4.3分词

import jieba
tokens = jieba.lcut(text)
tokens = [token.strip() for token in tokens]

结果如图所示:

训练集分词展示:

测试集分词展示:

 4.4移除特殊字符

pattern = re.compile('[{}]'.format(re.escape(string.punctuation)))  # re.escape就能自动处理所有的特殊符号
# string.punctuation返回所有标点符号
filtered_tokens = filter(None, [pattern.sub('', token) for token in tokens])
filtered_text = ' '.join(filtered_tokens)

 4.5去停用词

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第7张图片

4.6归整化

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第8张图片

 结果如图所示:

归整化后的训练集:

归整化后的测试集:

 4.7词袋模型特征提取

# min_df:在构建词汇表时,忽略那些文档频率严格低于给定阈值的术语。
# ngram_range的(1,1)表示仅使用单字符
vectorizer = CountVectorizer(min_df=1, ngram_range=ngram_range)
features = vectorizer.fit_transform(corpus)  # 学习词汇表字典并返回文档术语矩阵

 结果如图所示:

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第9张图片

4.8 TFIDF特征提取

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第10张图片

 结果如图所示:

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第11张图片

5.构建支持向量机分类模型

5.1基于词袋模型特征的支持向量机

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第12张图片

5.2基于TFIDF特征的支持向量机

# 基于tfidf的支持向量机模型
print("基于tfidf的支持向量机模型")
svm_tfidf_predictions = train_predict_evaluate_model(classifier=svm,
                                                     train_features=tfidf_train_features,
                                                     train_labels=train_labels,
                                                     test_features=tfidf_test_features,
                                                     test_labels=test_labels)

6.模型评估

6.1评估指标及结果

评估指标主要包括准确率、查准率、查全率(召回率)、F1分值等等。

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第13张图片

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第14张图片 通过上表可以看到,两种特征提取的模型的准确率均为97%,F1分值均为0.97,说明模型效果良好。

6.2分类报告

结果如图所示:

基于词袋模型特征的分类报告

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第15张图片

类型为垃圾邮件的F1分值为0.97;类型为正常邮件的F1分值为0.97。

基于TFIDF特征的分类报告

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第16张图片

类型为垃圾邮件的F1分值为0.97;类型为正常邮件的F1分值为0.97。

6.3混淆矩阵

# 构建数据框
cm_matrix = pd.DataFrame(data=cm, columns=['Actual :0', 'Actual :1'],
                         index=['Predict :0', 'Predict :1'])

sns.heatmap(cm_matrix, annot=True, fmt='d', cmap='YlGnBu')  # 热力图展示
plt.show()  # 展示图片

结果如图所示:

基于词袋模型特征的分类报告

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第17张图片

从上图可以看到,预测为垃圾邮件 实际为正常邮件的有91封;预测为正常邮件  实际为垃圾邮件的有5封。

基于TFIDF特征的分类报告

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第18张图片

从上图可以看到,预测为垃圾邮件 实际为正常邮件的有89封;预测为正常邮件  实际为垃圾邮件的有6封。

7.模型预测展示

显示正确分类的邮件:

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第19张图片

显示错误分类的邮件:

Python基于词袋模型特征和TFIDF特征进行支持向量机模型中文邮件分类项目实战_第20张图片

8.总结展望

本项目应用应用两种特征提取方法进行支持向量机模型中文邮件分类研究,通过数据预处理、特征工程、模型构建、模型评估等工作,最终模型的F1分值达到0.97,这在文本分类领域,是非常棒的效果,可以应用于实际工作中。

本次机器学习项目实战所需的资料,项目资源如下:

项目说明:
链接:https://pan.baidu.com/s/1dW3S1a6KGdUHK90W-lmA4w 
提取码:bcbp

网盘如果失效,可以添加博主微信:zy10178083

你可能感兴趣的:(机器学习,词袋模型,中文分词,TFIDF特征,支持向量机,中文邮件分类)