关于数据挖掘，你必须知道的几个主要方法

数据挖掘是一门交叉性的新兴学科，它将数据可视化、数据库技术、高性能计算机、统计学、机器学习、模式识别、人工智能等多个范畴的理论和技术融合在一起。数据挖掘的主要方法概括为：预测模型方法、数据分割方法、关联分析法和偏离分析法（图1）。解决实际问题时，将已知的数据库蕴含的复杂信息转换成数学的语言，建立数学模型，运用相应的处理方法结果会更加有效。数据挖掘方法有哪些?

一、预测模型方法

预测模型方法是数据挖掘主要方法中分支较为复杂的一类，包括神经网络与决策树等相关人工智能算法、进化算法及支持向量机等算法。

1、神经网络与决策树等相关人工智能算法

在预测模型方法中，神经网络算法、决策树算法、贝叶斯分类算法、基于关联规则分类算法等都是经典的人工智能算法。

现有的决策树的分类算法有ID3、C4.5等。决策树分类算法是一种以决策树形式表示的分类规则，它能够根据一定的规则将众多的数据分类，从中挖掘出那些有价值的、潜在的信息。决策树的主要优点在于处理大数据的能力强，适合分类及处理预测模型的任务，结论易于解释和理解。贝叶斯分类算法是一种算法相对比较简单、分类精度相对较高的分类算法。在分类的性能方面，决策树算法、贝叶斯分类算法及神经网络算法之间关系十分紧密。现有的贝叶斯分类算法包括朴素贝叶斯算法、动态贝叶斯算法等。常见组合分类方法有随机森林方法、bagging方法及boosting方法。

2、进化算法

进化算法，其代表性算法为遗传算法。1969年，Holland提出了一种随机搜索的最优化方法，它是模拟自然界中的遗传机制和生物进化论而成的，称为遗传算法（genetic algorithms，GA）。它将利用自然界中的“优胜劣汰，适者生存”的生物进化原理改变优化参数，根据适应度函数的选取，最终形成编码串联到群体中。遗传算法的基本步骤：选择、交叉和变异。遗传算法的主要目的是留下适应度值好的个体，淘汰适应度值差的个体，继续循环选择、交叉和变异步骤。

近几年，又演化出新的进化算法，如粒子群算法、蚁群算法以及灰狼优化算法等。粒子群算法（particle swarm optimization，PSO）是由Eberhart等开发的一种新的进化算法。与模拟退火算法相似，PSO算法也是从随机解出发，通过迭代进而寻找最优解，与上述的“遗传算法”相比而言，规则更为简单，它没有遗传算法基本步骤中的“交叉”和“变异”，而是通过追随当前搜索获得的最优值来寻找全局的最优解。粒子群算法以实现简便、精度高、收敛快等优点引起了学术界的重视，并且在解决实际问题中展示了其优越性。

3、支持向量机

1995年，Corinna和Vapnik等首先提出了支持向量机（support vector machine，SVM），它是一种具备较强的分类能力和泛化能力的分类算法，主要解决小样本、非线性、高维模式识别及函数拟合等其他机器学习问题。支持向量机主要分为以下3种情况。

线性可分情况。针对线性可分的情况，现实生活中存在大量的实例，例如，在一组医疗数据中，通过支持向量机可以将患者和正常人进行分类（即二分类），判断哪些是患者，哪些是正常人；在一组由民歌和古筝演奏的音乐辨别中进行有效的分类，判断哪些是民歌，哪些是古筝。

线性不可分情况。解决线性不可分问题时，构建核函数，这是支持向量机的优势所在。但是，对于数据集训练的“复杂度”最终还是取决于它的规模，在处理大规模数据时，模型局部受限，泛化能力有时也会有所消耗或损失。

非线性可分情况。支持向量机利用结构风险最小化替代经验风险最小化原则，较好地解决了小样本情况下的学习问题。针对非线性问题与线性问题是怎样建立起联系的，它们之间是如何进行转化的，“核函数的思想”提供了新的思路。

二、数据分割方法

数据分割是将数据依据某些属性将其聚类，使之具有一定的意义。由于数据的类型、数据的复杂度和聚类的数目等特点，聚类算法有很多，如划分方法、基于网络的方法、基于密度的方法、层次方法等。

肖娟等针对传统的算法处理多层次的复杂建筑物中涉及的困难，提出了一种新的算法，对建筑物进行分割，对几何基元进行提取。

三、关联分析法

关联分析法是寻找数据间的关联，但从大数据集中寻找关联可能会导致效率降低，找到的关联也可能毫无意义。在研究过程中存在“支持度”和“置信度”，“支持度”可以有根据地将那些毫无意义的数据删除，而“置信度”可以衡量设置规则的可能性。关联分析法的主要算法有Apriori算法、DHP算法和DIC算法等。

Chen等在现有的分析方法基础上，积累了海量的数据，利用数据挖掘技术，提出了一种新的算法，即通过关联分析法建立相关模式挖掘方法，借助多种新型优化技术，可以有效且高效地减少搜索空间。此外，将该算法应用于现实世界的数据集中，展示了相关模式挖掘的实用性。

四、偏离分析法

偏差包括潜在的信息量，例如设定模式中的特例、分类中的异样实例以及分析实验得到的最终结果与实验前设定的期望之间的偏差等。观察比较最终的结果与参照量之间的偏差是偏离分析法的核心所在。 在企业的预警或是危机解决的过程中，专业的管理者对突发的意外规则更感兴趣，在异常信息的发现、识别、观察、分析、挖掘、评价和预警等方面，挖掘意外规则的应用价值备受关注。

以上就是思迈特软件今天分享的数据挖掘有关知识。
感谢您的阅读，更多知识，请继续关注我们，下期再见！
广州思迈特软件有限公司（简称：思迈特软件Smartbi）是国家认定的“高新技术企业”，专注于商业智能（BI）与大数据分析软件产品和服务。我们在BI领域具有15年以上产品研发经验，提供完整的大数据分析软件产品、解决方案、以及配套的咨询、实施、培训及维护服务。

思迈特软件统一登录平台