朴素贝叶斯对新闻文本分类

朴素贝叶斯广泛应用于文本分类任务中，包括互联网新闻的分类和垃圾邮件的分类等。

from sklearn.datasets import fetch_20newsgroups#导入新闻数据
from sklearn.model_selection import train_test_split#数据集进行训练集和测试集的分割
from sklearn.feature_extraction.text import CountVectorizer#不去掉停用词对文本特征进行量化
from sklearn.naive_bayes import MultinomialNB#导入贝叶斯模型
from sklearn.metrics import classification_report#导入评价性能评估模块

#观测数据：18846个新闻
news=fetch_20newsgroups(subset='all')
#print(len(news.data))
#print(news.data[0])


#划分训练集和测试集
X_train,X_test,y_train,y_test = train_test_split(news.data,
                                                 news.target,test_size = 0.25,random_state = 33)

#对特征进行量化
vec=CountVectorizer()
X_train=vec.fit_transform(X_train)
X_test=vec.transform(X_test)
#模型训练
mnb=MultinomialNB()
mnb.fit(X_train,y_train)
y_predict=mnb.predict(X_test)

#打印准确性,平均精确率，召回率，F1指标
print('Accurancy of Naive Bayes Classfier is:',mnb.score(X_test,y_test))
print (classification_report(y_test,y_predict,target_names=news.target_names))

朴素贝叶斯单独考虑每一维度特征被分类的条件概率。基于假设：各个维度上的特征被分类的条件概率之间式相互独立的。极大地减少了参数规模，但无法将各个特征之间的联系考虑在内，这种模型在其他数据特征关联性较强的分类任务上的性能表现不佳。