机器学习面试必知：Adaboost算法的精确形式

• 初始化数据加权系数$w_n=1/N$
• 对于$m=1,...,M$
  • 使用训练数据调节一个分类器$y_m(x)$,调节的目标是最小化加权的误差函数$$J_m=\sum _{n=1}^N{w}_n^{(m)}I(y_m(x_n)̸=t_n)$$
  • 计算$${ϵ}_m=\frac{{\sum }_{n=1}^N{w}_n^{(m)}I(y_m(x_n)̸=t_n)}{{\sum }_{n=1}^N{w}_n^{(m)}}$$ $${\alpha }_m=\mathrm{l}\mathrm{n}\frac{1-{ϵ}_m}{{ϵ}_m}$$
  • 更新权重系数$$w_n^{(m+1)}=w_n^{(m)}exp({\alpha }_{m}I(y_m(x_n)̸=t_n))$$
• 使用最终的模型进行预测$$Y_M(x)=sign(\sum _{m=1}^M{\alpha }_m{y}_m(x))$$