机器学习中的算法系列

机器学习中的算法系列

k近邻法：

T = {（x1,y1),(x2,y2),…，（xn,yn)}
待分离样本（x，y）
1.根据距离度量和k值计算Nk（x）
2.根据分类决策规则计算类别y

改进后：
T = {（x₁,y₁),(x₂,y₂),…，（x_n,y_n)}
待分离样本（x，y）
1.根据T中的样本构建kd树
2.根据距离度量，运行k次kd树搜索，计算Nk
（x）。
3.根据分类决策规则，计算新样本的类别y

二.朴素贝叶斯法

T = {（x₁,y₁),(x₂,y₂),…，（x_n,y_n)}
x_i=（x^1 …x^n）
y_i=c_k，其中k=1…k
P（y=c_k|x）&P（y= c_k）P（x|y= c_k）

三.决策树

四.逻辑斯蒂回归

• 逻辑斯蒂回归是对数几率中的线性回归
  

五.支持向量机

六.EM算法