【挖掘模型】： Python-朴素贝叶斯分类

Paste_Image.png

利用贝叶斯定理中概率统计知识，对离散型的数据进行分类的算法

# 优点  算法易于实现和部署，执行效率和准确度高
# 缺点  适合处理离散型的数据,不适合处理连续型的数据
# 贝叶斯定理  P(A|B)= P(A∩B)/P(B) = (P(B|A)*P(A))/P(B)
# 例子：
    # 症状      职业         疾病
    # 打喷嚏    护士         感冒
    # 打喷嚏    农夫         过敏
    # 头痛      建筑工人     脑震荡
    # 头痛      建筑工人     感冒
    # 打喷嚏    教师         感冒
    # 头痛      教师        脑震荡
  # 现在来了第七个病人，是一个打喷嚏的建筑工人，他患那种疾病的概率最高？
  # P(感冒｜打喷嚏 * 建筑工人) = P（打喷嚏 * 建筑工人）*P（感冒）/P（打喷嚏 * 建筑工人)
  # 假设打喷嚏 和  建筑工人是独立的
  # P(感冒｜打喷嚏 * 建筑工人) = P （打喷嚏｜感冒）* P(建筑工人｜感冒) *P（感冒）/ P（打喷嚏）*P(建筑工人)
  #　＝　0.66 * 0.33 * 0.5/0.33*0.5
  # P(过敏｜打喷嚏 * 建筑工人) = 0
  # P(脑震荡｜打喷嚏 * 建筑工人) = 0

import numpy;
import pandas;

data = pandas.read_csv("F:\\python 数据挖掘分析实战\\Data\\data (3).csv");

fData = data[
    ["ParentIncome", 'IQ', "Gender", "ParentEncouragement"]
].to_dict('records')

tData = data["CollegePlans"]

from sklearn.feature_extraction import DictVectorizer

dictVectorizer = DictVectorizer()

pData = dictVectorizer.fit_transform(
    fData
).toarray()

pData = pData[:, [1, 2, 3, 5]]

#随机重排序
permutation = numpy.random.permutation(data.shape[0])
pData = pData[permutation]
tData = tData[permutation]

#高斯贝叶斯
from sklearn.naive_bayes import GaussianNB
GNBModel = GaussianNB()

GNBModel.fit(pData[:6000], tData[:6000])
GNBModel.score(pData[6000:], tData[6000:])

#多项朴素贝叶斯
from sklearn.naive_bayes import MultinomialNB
MNBModel = MultinomialNB()

MNBModel.fit(pData[:6000], tData[:6000])
MNBModel.score(pData[6000:], tData[6000:])

#伯努利贝叶斯
from sklearn.naive_bayes import BernoulliNB
BNBModel = BernoulliNB()

BNBModel.fit(pData[:6000], tData[:6000])
BNBModel.score(pData[6000:], tData[6000:])

参考文献
作者A：ken