引言
当你举起手机拍照的时候,是否早已习惯它帮你框出人脸?当你点开XX头条时,是否习惯了呈现在眼前的刚好是你喜欢的新闻?还有,能够识别出你年龄的APP。这些看似好玩又神奇的功能的核心算法就是机器学习领域的内容。今天让我们一起走进“机器学习”的奇妙世界。
机器学习的定义
机器学习并不等完全等同于人工智能,它是人工智能的子集,是其中的一个分支领域。借用大神们对机器学习的定义来说,机器学习研究的是计算机怎样模拟人类的学习行为,以获取新的知识或技能,并重新组织已有的知识结构使之不断改善自身。简单的说,就是计算机从数据中学习出规律和模式,以应用在新数据上做预测的任务。近年来互联网数据大爆炸,数据的丰富度和覆盖面远远超出人工可以观察和总结的范畴,而机器学习的算法能指引计算机在海量数据中,挖掘出有用的信息,也使得无数学习者为之着迷。
机器学习关注的问题
虽然感觉上机器学习好像无处不在,但是并非所有问题都适合用机器学习来解决,也没有一个机器学习算法能够通用语所有的问题,那么,我们先来了解一下 机器学习 到底关心和解决什么样的问题。
(一)、从功能角度分类,机器学习在一定程度上能够解决一下问题:
1、分类问题
根据数据样本上抽取出的特征,判定其属于有限个类别中的哪一个。比如:
垃圾邮件识别(结果类别:1.垃圾邮件 2.正常邮件)
文本情感褒贬分析(结果类别:1.褒 2.贬)
图像内容识别识别(结果类别:1.喵星人 2.汪星人 3.人类 4.草泥马 5.都不是)。
2、回归问题
根据数据样本上抽取出的特征,预测一个连续值的结果。比如:
史蒂文·斯皮尔伯格《头号玩家》票房
大帝都2个月后的房价
隔壁熊孩子一天来你家几次,宠幸你多少玩具
3、聚类问题
根据数据样本上抽取出的特征,让样本抱抱团(相近/相关的样本在一团内)。比如:
google的新闻分类
用户群体划分
将上述常见问题则对应机器学习的两个分类:
(1). 监督学习:分类与回归问题需要用已知结果的数据做训练;
(2). 非监督学习:聚类的问题不需要已知标签;
(二)、从互联网行业观察,机器学习的的热点问题有:
1、计算机视觉
典型的应用包括:人脸识别、车牌识别、扫描文字识别、图片内容识别、图片搜索等等。
2、自然语言处理
典型的应用包括:搜索引擎智能匹配、文本内容理解、文本情绪判断,语音识别、输入法、机器翻译等等。
3、社会网络分析
典型的应用包括:用户画像、网络关联分析、欺诈作弊发现、热点发现等等。
4、推荐
典型的应用包括:虾米音乐的“歌曲推荐”,某宝的“猜你喜欢”等等。
机器学习(应用类)职位
1、数据挖掘工程师(分析师)
职位描述:
一般是指从大量的数据中通过算法搜索隐藏于其中知识的工程技术专业人员。他们能够使企业决策智能化,自动化,从而使企业提高工作效率,减少错误决策的可能性。
2、推荐算法工程师
职位描述:
解决的核心问题是:提供给用户想要的,降低用户找东西的难度,给用户更多的惊喜。
不同的互联网产品在不同的阶段,可以通过推荐系统解决不同的问题和实现不同的目标。
3、广告算法工程师
职位描述:
数据主要分两类:用户数据和广告数据。广告算法工程师主要解决的问题就是把用户和进行更好的匹配,提升总体的市场效率。
4、NLP(自然语言处理)工程师
职位描述:
通过对日常生活中的写的文字和说出的话等这类数据内容进行抽象、映射或响应。如:信息抽取(命名实体识别,情感分析等),机器翻译,聚类,分类,自动问答等。
5、图像处理工程师
职位描述:
图像处理工程师面对的是静态图像和动态视频,根据需要通常分为:离线处理和在线处理。
他们需要解决的问题有:检测(就是看某个图片里是否有某类东西,比如是否有人脸)、识别(就是输入一个图片,看这个图片和库里的哪个图片是一致的)、分割、拼接、3D重建、聚类、分类等。
当然,以上并非机器学习方向涉及的所有职位,根据行业的划分还有非常多更加具体、细化的职位。
机器学习的路径
对于机器学习的学习路径,我们先看下图:
通过上图可以看出需要我们具备:『数学基础』、『典型机器学习算法』和『编程基础』三个部分。因为机器学习是一个将数学/算法理论和工程实践紧密结合的领域,需要扎实的理论基础帮助引导数据分析与模型调优,同时,也需要精湛的工程开发能力去高效化地训练和部署模型和服务。下面我们将逐一介绍这三部分:
1、数学基础
基本所有常见机器学习算法需要的数学基础,都集中在微积分、线性代数和概率与统计当中。下面我们先过一过知识重点,文章的后部分会介绍一些帮助学习和巩固这些知识的资料。
(1)、微积分
微分的计算及其几何、物理含义,是机器学习中大多数算法的求解过程的核心。比如算法中运用到梯度下降法、牛顿法等。如果对其几何意义有充分的理解,就能理解“梯度下降是用平面来逼近局部,牛顿法是用曲面逼近局部”,能够更好地理解运用这样的方法。
凸优化和条件最优化 的相关知识在算法中的应用随处可见,如果能有系统的学习将使得你对算法的认识达到一个新高度。
(2)、概率与统计
从广义来说,机器学习在做的很多事情,和统计层面数据分析和发掘隐藏的模式,是非常类似的。
极大似然思想、贝叶斯模型 是理论基础,朴素贝叶斯(Bayes )、语言模型(N-gram)、隐马尔科夫(HMM)、隐变量混合概率模型是他们的高级形态。
常见分布如高斯分布是混合高斯模型(GMM)等的基础。
2、经典算法
绝大多数问题用典型机器学习的算法都能解决,粗略地列举一下这些方法如下:
(1)、处理分类问题的常用算法包括:逻辑回归(工业界最常用),支持向量机,随机森林,朴素贝叶斯(NLP中常用),深度神经网络(视频、图片、语音等多媒体数据中使用)。
(2)、处理回归问题的常用算法包括:线性回归,普通最小二乘回归(Ordinary Least Squares Regression),逐步回归(Stepwise Regression),多元自适应回归样条(Multivariate Adaptive Regression Splines)
(3)、处理聚类问题的常用算法包括:K均值(K-means),基于密度聚类,LDA等等。
(4)、降维的常用算法包括:主成分分析(PCA),奇异值分解(SVD) 等。
(5)、推荐系统的常用算法:协同过滤算法
(6)、模型融合(model ensemble)和提升(boosting)的算法包括:bagging,adaboost,GBDT,GBRT
(7)、其他很重要的算法包括:EM算法等等。
【tips】:机器学习里所说的“算法”与程序员所说的“数据结构与算法分析”里的“算法”略有区别。前者更关注结果数据的召回率、精确度、准确性等方面,后者更关注执行过程的时间复杂度、空间复杂度等方面。 当然,实际机器学习问题中,对效率和资源占用的考量是不可或缺的。
3、编程语言工具和环境
看了无数的理论与知识,终归要落到实际动手实现和解决问题上。因此,我们还是得需要合适的编程语言、工具和环境帮助自己在数据集上应用机器学习算法,或者实现自己的想法。对初学者而言,Python和R语言是很好的入门语言,很容易上手,同时又活跃的社区支持,丰富的工具包帮助我们完成想法。相对而言,似乎计算机相关的同学用Python多一些,而数学统计出身的同学更喜欢R一些。我们对编程语言、工具和环境稍加介绍:
(1)、python
python有着全品类的数据科学工具,从数据获取、数据清洗到整合各种算法都做得非常全面。
网页爬虫: scrapy
数据挖掘:
pandas:模拟R,进行数据浏览与预处理。
numpy:数组运算。
scipy:高效的科学计算。
matplotlib:非常方便的数据可视化工具。
机器学习:
scikit-learn:远近闻名的机器学习package。未必是最高效的,但是接口真心封装得好,几乎所有的机器学习算法输入输出部分格式都一致。而它的支持文档甚至可以直接当做教程来学习,非常用心。对于不是非常高纬度、高量级的数据,scikit-learn胜任得非常好(有兴趣可以看看sklearn的源码,也很有意思)。
libsvm:高效率的svm模型实现(了解一下很有好处,libsvm的系数数据输入格式,在各处都非常常见)
keras/TensorFlow:对深度学习感兴趣的同学,也能很方便地搭建自己的神经网络了。
自然语言处理:
nltk:自然语言处理的相关功能做得非常全面,有典型语料库,而且上手也非常容易。
交互式环境:
ipython notebook:能直接打通数据到结果的通道,方便至极。强力推荐。
(2)、R语言
R最大的优势是开源社区,聚集了非常多功能强大可直接使用的包,绝大多数的机器学习算法在R中都有完善的包可直接使用,同时文档也非常齐全。常见的package包括:RGtk2, pmml, colorspace, ada, amap, arules, biclust, cba, descr, doBy, e1071, ellipse等等。另外,值得一提的是R的可视化效果做得非常不错,而这对于机器学习是非常有帮助的。
(3)、其他语言
相应资深程序员GG的要求,再补充一下Java和C++相关机器学习package。
Java系列
WEKA Machine Learning Workbench 相当于java中的scikit-learn
其他的工具如Massive Online Analysis(MOA)、MEKA 、 Mallet 等也非常有名。
更多详细的应用请参考这篇文章《25个Java机器学习工具&库》
C++系列
mlpack,高效同时可扩充性非常好的机器学习库。
Shark:文档齐全的老牌C++机器学习库。
(4)、大数据相关
Hadoop:基本上是工业界的标配了。一般用来做特征清洗、特征处理的相关工作。
spark:提供了MLlib这样的大数据机器学习平台,实现了很多常用算法。但可靠性、稳定性上有待提高。
mac和linux会方便一些,而windows在开发中略显力不从心。所谓方便,主要是指的mac和linux在下载安装软件、配置环境更快捷。
对于只习惯windows的同学,推荐anaconda,一步到位安装完python的全品类数据科学工具包。
结束语
机器学习的知识体系非常庞大,今天我们先从学习路线方面给大家介绍该如何学习机器学习,在后续的文章中,我们将从简入深的剖析“机器学习”。
长按二维码 ▲
订阅「架构师小秘圈」公众号
如有启发,帮我点个在看,谢谢↓