机器学习算法

#感知机

1. 感知机(perceptron)学习算法的原始形式
2. 感知机(perceptron)学习算法的对偶形式
   #k近邻法
3. k近邻法(k-nearest neighbor, k-NN)
4. 构造平衡kd树(kd tree)
5. 用kd树的最近邻搜索
   #朴素贝叶斯法
6. 朴素贝叶斯算法(naive Bayes algorithm)
   #决策树
7. 信息增益(比)的算法
8. ID3和C4.5算法
9. 树的剪枝(pruning)算法
10. 最小二乘回归树生成算法
11. CART 生成算法
12. CART 剪枝算法
    #逻辑斯谛回归与最大熵模型
13. 逻辑斯谛(logistic regression)回归
14. 最大熵模型
    #支持向量机
15. 线性可分支持向量机学习算法——最大间隔法
16. 线性可分支持向量机对偶算法
17. 线性支持向量机学习算法
18. 非线性支持向量机学习算法
    #提升方法
19. AdaBoost
20. 前向分步算法(forward stagewise algorithm)
21. 回归问题的提升树(boosting tree)算法
22. 梯度提升(gradient boosting)算法
    #EM算法及其推广
23. EM算法