机器学习初级

一.机器学习

1.概念

机器学习是近20多年兴起的一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。机器学习算法是一类从数据中自动分析获得规律，并利用规律对未知数据进行预测的算法。因为学习算法中涉及了大量的统计学理论，机器学习与统计推断学联系尤为密切，也被称为统计学习理论。算法设计方面，机器学习理论关注可以实现的，行之有效的学习算法。很多推论问题属于无程序可循难度，所以部分的机器学习研究是开发容易处理的近似算法。

2.网络教学信息：

斯坦福机器学习教程

3.机器学习应用：

数据挖掘、计算机视觉、自然语言处理、生物特征识别、搜索引擎、医学诊断、检测信用卡欺诈、证券市场分析、DNA序列测序、语音和手写识别、战略游戏、机器人。

二.机器学习的发展历程

1.“黑暗时代”，人工智能的诞生（1943~1956年）

①Warren McCulloch和Walter Pitts在1943年发表了人工智能领域的开篇之作，提出了人工神经网络模型。
②John von Neumann。他在1930年加入了普林斯顿大学，在数学物理系任教，和阿兰·图灵是同事。
③Marvin Minsky和Dean Edmonds建造第一台神经网络计算机。
④1956年：John McCarthy从普林斯顿大学毕业后去达特茅斯学院工作，说服了Marvin Minsky和Claude Shannon在达特茅斯学院组织一个暑期研讨会，召集了对机器智能、人工神经网络和自动理论感兴趣的研究者，参加由IBM赞助的研讨会。

2.新的方向

集成学习、可扩展机器学习（对大数据集、高维数据的学习等）、强化学习、迁移学习、概率网络、深度学习。

三.机器学习和数据挖掘的关系

1. 机器学习是数据挖掘的重要工具。
2. 数据挖掘不仅仅要研究、拓展、应用一些机器学习方法，还要通过许多非机器学习技术解决数据仓储、大规模数据、数据噪音等等更为实际的问题。
3. 机器学习的涉及面更宽，常用在数据挖掘上的方法通常只是“从数据学习”，然则机器学习不仅仅可以用在数据挖掘上，一些机器学习的子领域甚至与数据挖掘关系不大，例如增强学习与自动控制等等。
4. 数据挖掘试图从海量数据中找出有用的知识。
5. 大体上看，数据挖掘可以视为机器学习和数据库的交叉，它主要利用机器学习界提供的技术来分析海量数据，利用数据库界提供的技术来管理海量数据。

四.机器学习相关期刊和会议

1.机器学习

学术会议：NIPS、ICML、ECML和COLT，
学术期刊：《Machine Learning》和《Journal of Machine Learning Research》

2.数据挖掘

学术会议：SIGKDD、ICDM、SDM、PKDD和PAKDD
学术期刊：《Data Mining and Knowledge Discovery》和《IEEE Transactions on Knowledge and Data Engineering》

3.人工智能

学术会议：IJCAI和AAAI、

4.数据库

学术会议：SIGMOD、VLDB、ICDE，
其它一些顶级期刊如
《Artificial Intelligence》、
《Journal of Artificial Intelligence Research》、
《IEEE Transactions on Pattern Analysis and Machine Intelligence》、
《Neural Computation》等也经常发表机器学习和数据挖掘方面的论文