台大林轩田《机器学习基石》学习笔记：相关领域与三大原则

本文是作者学习台大林轩田教授《机器学习基石》课程后整理的简要笔记（未按课程回目分节），内容大部分来源于林轩田教授的课程资料，其余相关参考链接已标出。

相关领域 - Relatives

•  Data mining 数据挖掘

    数据挖掘是从大数据中得到感兴趣的一些性质，来帮助更好的分析数据

如果数据挖掘感兴趣的就是得到hyphosesis，那么数据挖掘就是机器学习；

如果不是，数据挖掘和机器学习也是相互帮助的领域，两领域密不可分。

•  Artificial intelligence 人工智能

    人工智能是电脑做出一些智慧的行为，人工智能实现的方法有很多（不一定是从数据出发），机器学习是其中一个方法，比如从众多围棋高手的棋局中学习规律帮助电脑下棋。

•  Statistics 统计知识

    数学角度，经常从假设出发进行推论得到结果，很多统计方法成为机器学习的工具；机器学习是从电脑科学角度，更为侧重搞清楚得到结果的过程。

 

三大原则 - Learning principles

• Simple is better
• Notice sampling bias
• Honesty is best policy