几种监督式学习算法的比较

allowtransparency="true" frameborder="0" scrolling="no" src="http://hits.sinajs.cn/A1/weiboshare.html?url=http%3A%2F%2Fwww.csdn.net%2Farticle%2F2015-03-17%2F2824232&type=3&count=&appkey=&title=Kevin%20Markham%E4%B8%BAGeneral%20Assembly%E8%AE%B2%E6%8E%88%E6%95%B0%E6%8D%AE%E7%A7%91%E5%AD%A6%E8%AF%BE%E7%A8%8B%EF%BC%8C%E5%9C%A8SlideRule%E6%8C%87%E5%AF%BC%E5%AD%A6%E7%94%9F%E5%AD%A6%E4%B9%A0%E6%95%B0%E6%8D%AE%E7%A7%91%E5%AD%A6%EF%BC%8C%E8%BF%98%E6%98%AF%E7%BA%A6%E7%BF%B0%C2%B7%E9%9C%8D%E6%99%AE%E9%87%91%E6%96%AF%E5%A4%A7%E5%AD%A6%E6%95%B0%E6%8D%AE%E7%A7%91%E5%AD%A6Coursera%E4%B8%93%E9%A1%B9%E8%AF%BE%E7%A8%8B%E7%9A%84%E7%A4%BE%E5%8C%BA%E6%95%99%E5%AD%A6%E5%8A%A9%E7%90%86%EF%BC%8C%E6%97%A5%E5%89%8D%E4%BB%96%E6%92%B0%E6%96%87%E8%B0%88%E5%8F%8A%E4%BA%86%E5%87%A0%E7%A7%8D%E7%9B%91%E7%9D%A3%E5%BC%8F%E5%AD%A6%E4%B9%A0%E7%AE%97%E6%B3%95%E7%9A%84%E6%AF%94%E8%BE%83%EF%BC%8C%E5%80%BC%E5%BE%97%E4%B8%80%E7%9C%8B%E3%80%82&pic=&ralateUid=&language=zh_cn&rnd=1427606381654" width="22" height="16"> 摘要：Kevin Markham为General Assembly讲授数据科学课程，在SlideRule指导学生学习数据科学，还是约翰·霍普金斯大学数据科学Coursera专项课程的社区教学助理，日前他撰文谈及了几种监督式学习算法的比较，值得一看。

【编者按】本文的作者是计算机工程师Kevin Markham；热衷烹饪，痴迷戏剧，偶尔参加铁人三项运动；为 General Assembly 讲授为期11周的数据科学课程，在 SlideRule 指导学生学习数据科学，还是 约翰·霍普金斯大学数据科学Coursera专项课程 的社区教学助理（CTA）；业余时间制作 视频教程 参加 Kaggle 的比赛。日前他撰文谈及了几种监督式学习算法的比较，值得一看。

以下为正文： 

我所讲授的 数据科学课程 涵盖了该领域大部分内容，但尤其关注机器学习（machine learning）。除了讲授模型的评估过程和度量方法以外，很明显，我们还讲算法本身，主要是监督式学习（supervised learning）算法。

在为期11周的课程接近尾声的时候，我们花了几个小时检查所用的课程资料。我们希望学生能够逐渐理解他们所学的东西。要掌握的技能之一就是在解决机器学习的问题时，有能力在不同的监督式学习算法中做出明智的选择。虽然使用“蛮力”（把每种情况都试一遍，看看哪种最好）的方法有其价值所在，但比这价值大得多的是能够在不同算法之间做出权衡利弊的选择。

我决定为学生们组织一场比赛。我给他们一张空白的表格，列出所讲的监督式学习算法，让学生从几个不同维度对这些算法进行比较。我在网上找到了这样的表格，自己先弄一张再说！下面就是，一起看看：

上图为表格部分截图，中文版下载请点击 这里。 

贡献出这张表格，有两个原因：

• 其一，它可以用来讲课或者学习（ 下载 下来拿去用吧）。
• 其二，这张表格需要完善，人多力量大！

这张表格是集鄙人经验与研究的产物，在任何这些算法的领域，我都称不上是专家。如果你有能够改进表格的建议，给我留言哟！

• 是否在我的这些评估中存在误导或错误？（当然啦，有些比较维度本身就带有主观性。）
• 是否存在应该添加到表格中的其他“重要的”对比维度？
• 是否还有其他你希望加入到这张表格的算法？（目前，表格中只有我所讲授的算法。）

我意识到每种算法的特征及相应的评价都可以基于数据的具体情况（以及数据的调优程度）发生变化。因此有人会认为试图做“客观”的比较是欠考虑的。然而，我认为作为监督式学习算法入门的一般性参考，这张表仍然有其价值所在。

Duang~Duang~Duang~！

学习资源

•  Choosing a Machine Learning Classifier ：Edwin Chen所做的概述，短小易懂，可读性强。
•  scikit-learn的“机器学习导图” ：选择“正确”的估计器（estimator）。
•  Machine Learning Done Wrong ：深思熟虑的建议，避免在机器学习中掉进常见的坑，有些建议涉及算法的选择。
•  Practical machine learning tricks from the KDD 2011 best industry paper ：较上一项更高级的建议。
•  An Empirical Comparison of Supervised Learning Algorithms ：发表于2006年的研究论文。
•  查看所有来自Data School关于机器学习的帖子 。

补充说明：要做“锐推”， 请点击这里 ，还可以来 Kaggle 和 DataTau 讨论！