西瓜书-机器学习《一》

基本概念

• 预测离散值：分类问题
• 预测连续值：回归问题
• 无监督问题：聚类问题
• 监督问题：分类、回归问题

泛化能力：
学习的模型适应新样本的能力。

奥卡姆剃刀原则：自然科学研究中常用的原则。
即：若有多个假设和观测一致，那么就选择最简单的假设。

连接主义：黑箱模型，例如：神经网络，不可解释性，参数手工等调整
符号主义：决策理论的学习技术，例如决策树学习：以信息论为基础，以信息熵的最小化为目标。
统计学习：SVM支持向量机，核方法，结构风险最小化原则。

机器学习领域和数据库领域是数据挖掘的两大支撑。

NFL没有免费午餐理论：假设各样本属性等均匀分布，所以基于此原则上证明出，不管何种学习算法，其期望性能均相同。但是实际情况下，并不是均匀分布的，所以脱离实际空谈算法的好坏没有意义，必须放在实际问题中进行探讨。

著名的机器学习会议期刊等

会议：
ICML、NIPS、COLT、ECML、ACML、IJCAI、AAAI、KDD、ICDM、CVPR

期刊：
Machine Learning 、Journal of Machine Learning Research、CCF核心推荐A区4大刊