scikit-learn(sklearn)学习笔记八 朴素贝叶斯

朴素贝叶斯是一种直接衡量标签和特征之间的概率关系的有监督算法，可以做回归也可以做分类。
假设特征之间是有条件独立的，可以解决众多问题，也简化了很多计算，这是朴素贝叶斯被称为“朴素”的原由，因此，贝叶斯在特征之间有很多相关的数据集上表现不佳。 从
常用的几个分布分别是：高斯分布，伯努利分布和多项式分布，sklearn提供了四种朴素贝叶斯的分类器

• naive_bayes.BernoulliNB 伯努利分布下的朴素贝叶斯
• naive_bayes.GaussianNB 高斯分布下的朴素贝叶斯
• naive_bayes.MultionomialNB 多项式分布下的朴素贝叶斯
• naive_bayes.ComplementNB 补充朴素贝叶斯

import numpy as np
import matplotlib.pyplot as plt
from sklearn.naive_bayes import GaussianNB
from sklearn.datasets import load_digits
from sklearn.model_selection import train_test_split

digit=load_digits()
X,y=digit.data,digit.target

Xtrain,Xtest,Ytrain,Ytest=train_test_split(X,y,test_size=0.3,random_state=420)

gnb=GaussianNB().fit(Xtrain,Ytrain)

acc_score=gnb.score(Xtest,Ytest)
0.8592592592592593
y_pred=gnb.predict(Xtest)
[6 1 3 0 4 5 0 8 3 8 6 8 7 8 8 8 5 9 5 6 5 4 7 4 8 2 7 2 8 9 2 8 3 6 0 3 8
 8 1 5 2 8 8 9 2 2 0 7 3 6 7 2 8 0 5 4 1 9 4 0 5 8 9 1 7 8 7 5 8 2 4 4 8 2
 6 1 2 1 7 8 8 5 9 4 3 6 9 7 4 2 4 8 0 5 7 7 7 4 7 8 8 7 0 7 2 1 9 9 8 7 1
 5 1 8 0 4 8 9 5 6 4 8 3 8 0 6 8 6 7 6 1 8 5 0 8 2 1 8 8 6 6 0 2 4 7 8 9 5
 9 4 7 8 8 6 7 0 8 4 7 2 2 6 4 4 1 0 3 4 3 8 7 0 6 9 7 5 5 3 6 1 6 6 2 3 8
 2 7 3 1 1 6 8 8 8 7 7 2 5 0 0 8 6 6 7 6 0 7 5 5 8 4 6 5 1 5 1 9 6 8 8 8 2
 4 8 6 5 9 9 3 1 9 1 3 3 5 5 7 7 4 0 9 0 9 9 6 4 3 4 8 1 0 2 9 7 6 8 8 0 6
 0 1 7 1 9 5 4 6 8 1 5 7 7 5 1 0 0 9 3 9 1 6 3 7 2 7 1 9 9 8 3 3 5 7 7 7 3
 9 5 0 7 5 5 1 4 9 2 0 6 3 0 8 7 2 8 1 6 4 1 2 5 7 1 4 9 5 4 2 3 5 9 8 0 0
 0 0 4 2 0 6 6 8 7 1 1 8 1 1 7 8 7 8 3 1 4 6 1 8 1 6 6 7 2 8 5 3 2 1 8 7 8
 5 1 7 2 1 1 7 8 9 5 0 4 7 8 8 9 5 5 8 5 5 8 1 0 4 3 8 2 8 5 7 6 9 9 5 8 9
 9 1 8 6 4 3 3 3 3 0 8 0 7 7 6 0 8 9 8 3 6 6 8 7 5 8 4 5 8 6 7 6 7 7 8 0 8
 2 2 0 5 7 3 0 2 8 2 0 2 3 6 8 1 7 5 7 1 7 7 2 7 5 2 6 5 8 0 0 8 1 3 7 6 1
 5 6 2 0 1 5 7 8 0 3 5 0 7 5 4 4 1 5 9 5 3 7 1 7 3 5 8 5 8 5 6 1 6 7 4 3 7
 0 5 4 9 3 3 6 3 5 2 9 8 9 3 9 7 3 4 9 4 3 1]
prob=gnb.predict_proba(Xtest)
[[0.00000000e+000 4.69391744e-052 1.74871280e-098 ... 0.00000000e+000
  4.19588993e-033 1.51751459e-119]
 [0.00000000e+000 1.00000000e+000 9.26742456e-013 ... 0.00000000e+000
  0.00000000e+000 0.00000000e+000]
 [0.00000000e+000 0.00000000e+000 3.73608152e-026 ... 0.00000000e+000
  1.29541754e-039 5.54684869e-077]
 ...
 [0.00000000e+000 2.43314963e-047 4.82483668e-305 ... 2.31612692e-008
  1.23891596e-126 2.87896140e-257]
 [0.00000000e+000 8.26462929e-129 4.99150558e-012 ... 0.00000000e+000
  4.01802372e-003 6.19000712e-013]
 [0.00000000e+000 9.99929965e-001 1.45462767e-013 ... 5.05856094e-005
  1.94498169e-005 3.42317317e-042]]