机器学习吃瓜教程

课程链接

第一章 绪论

1.1 引言

1.2 基本术语

1.3 假设空间

1.4 归纳偏好

1.5 发展历程

1.6 应用现状

1.7 阅读材料

第二章 模型评估与选择

2.1 经验误差与过拟合

2.2 评估方法（测试集）

2.2.1 留出法

2.2.2 交叉验证法（k-fold）

2.2.3 自助法

2.3 性能度量

2.3.1 错误率与精度

2.3.2 查准率、查全率与F1

2.3.3 ROC（受试者工作特征）与AUC

2.3.4 代价敏感错误率与代价曲线

2.4 比较检验

2.4.1 假设检验

2.4.2 交叉验证t检验

2.4.3 McNemar检验

2.4.4 Friedman检验与Nemenyi后续检验

2.5 偏差与方差

2.6 阅读材料

第三章 线性模型

3.1基本形式

   给定d个属性描述的实例x =(x₁x₂;…;x_d)，其中x_i是x在第i个属性上的取值，线性模型(linear model)试图学得一个通过属性的线性组合来进行预测的函数，即
               f(x)=w₁x₁+w₂x₂+…+w_dx_d+b,
一般用向量形式写成
               f(x)=w^Tx+b,
其中w=(w₁;w₂;…w_d),w和b学得之后，模型就可以确定。
   线性模型形式简单、易于建模，但却蕴含着机器学习中一些重要的基本思想，许多功能更为强大的非线性模型(nonlinear model)可在线性模型的基础上通过引入层级结构或高维映射而得。此外，由于w直观表达了各属性在预测中的重要性，因此线性模型有很好的可解释性(comprehensibility)。例如若在西瓜问题中学得“f_好瓜=0.2x_色泽+0.5x_根蒂+0.3*x_敲声+1”，则意味着可通过综合考虑色泽、根蒂和敲声来判断瓜好不好，其中根蒂最要紧，而敲声比色泽更重要。
   本章介绍几种经典的线性模型，我们先从回归任务开始，然后讨论二分类和多分类任务。

3.2线性回归

最小二乘估计
基于均方误差最小化来进行模型求解的方法称为“最小二乘法”

如何在这个式子里面确定w与p呢？公式如下

3.3对数几率回归

3.4线性判别分析

3.5多分类学习

3.6类别不平衡问题

3.7阅读材料

第四章 决策树

4.1基本流程

​