FP-Growth算法

1.FP-Growth算法

        FP-Growth算法(Frequent Pattern-growth)使用了一种紧缩的数据结构频繁模式树(Frequent Pattern tree，简称FP-Tree）来存储查找频繁项集所需要的全部信息。

2.FP-tree

        (1)FP-tree是一种特殊的前缀树，其是满足下列条件的一个树结构：它由一个根节点(值为null)、项前缀子树(作为子女)和一个频繁项头表组成。

        (2)项前缀子树中的每个结点包括三个域：item_name、count和node_link，其中：

        item_name记录结点表示的项的标识；
        count记录到达该结点的子路径的事务数；

        node_link用于连接树中相同标识的下一个结点，如果不存在相同标识下一个结点，则值为“null”。

        (3)频繁项头表的表项包括一个频繁项标识域：item_name和一个指向树中具有该项标识的第一个频繁项结点的头指针：head of node_link。

        对于包含在FP-tree中某个结点上的项α，将会有一个从根结点到达α的路径，该路径中不包含α所在结点的部分路径称为α的前缀子路径(prefix subpath)，α称为该路径的后缀。
        在一个FP-tree中，有可能有多个包含α的结点存在，它们从频繁项头表中的α项出发，通过项头表中的head of node_link和项前缀子树中的node_link连接在一起。
        FP-tree中每个包含α的结点可以形成α的一个不同的前缀子路径，所有的这些路径组成α的条件模式基(conditional pattern base)。用α的条件模式基所构建的FP-tree称为α的条件模式树(conditional FP-tree)。

3.算法伪代码

算法：FP-增长。使用FP-树，通过模式段增长，挖掘频繁模式。

输入：事务数据库D；最小支持度阈值min_sup。

输出：频繁模式的完全集。

1． 按以下步骤构造FP-树：

(a) 扫描事务数据库D 一次。收集频繁项的集合F 和它们的支持度。对F 按支持度降序排

序，结果为频繁项表L。

(b) 创建FP-树的根结点，以“null”标记它。对于D 中每个事务Trans，执行：

选择 Trans 中的频繁项，并按L 中的次序排序。设排序后的频繁项表为[p | P]，其

中，p 是第一个元素，而P 是剩余元素的表。调用insert_tree([p | P], T)。该过程执行

情况如下。如果T 有子女N 使得N.item-name = p.item-name，则N 的计数增加1；否

则创建一个新结点N，将其计数设置为1，链接到它的父结点T，并且通过结点链结构

将其链接到具有相同item-name 的结点。如果P 非空，递归地调用insert_tree(P, N)。

2． FP-树的挖掘通过调用FP_growth(FP_tree, null)实现。该过程实现如下：

procedure FP_growth(Tree, α)

(1) if Tree 含单个路径P then

(2) for 路径 P 中结点的每个组合（记作β）

(3) 产生模式β ∪ α，其支持度support = β中结点的最小支持度；

(4) else for each a i 在 Tree 的头部 {

(5) 产生一个模式β = a i ∪ α，其支持度support = a i .support；

(6) 构造β的条件模式基，然后构造β的条件FP-树Treeβ；

(7) if Treeβ ≠ ∅ then

(8) 调用 FP_growth (Treeβ, β)；}

以下内容摘自： http://blog.sina.com.cn/s/blog_6fb7db430100vdj7.html

本文所采用图片均来自清华大学计算机系王建勇老师的课程《数据挖掘：原理与算法》

http://dbgroup.cs.tsinghua.edu.cn/wangjy/DM/DataMining.html

(Han, Pei and Yin @SIGMOD'00)

Apriori算法的一个主要瓶颈在于，为了获得较长的频繁模式，需要生成大量的候选短频繁模式。FP-Growth算法是针对这个瓶颈提出来的全新的一种算法模式。目前，在数据挖掘领域，Apriori和FP-Growth算法的引用次数均位列三甲。

FP的全称是Frequent Pattern，在算法中使用了一种称为频繁模式树（Frequent PatternTree）的数据结构。FP-tree是一种特殊的前缀树，由频繁项头表和项前缀树构成。所谓前缀树，是一种存储候选项集的数据结构，树的分支用项名标识，树的节点存储后缀项，路径表示项集。

FP-tree的生成方法：

第二步根据支持度对频繁项进行排序是本算法的关键。第一点是，通过将支持度高的项排在前面，使得生成的FP-tree中，出现频繁的项更可能被共享，从而有效地节省算法运行所需要的空间。另一点是，通过这种排序，可以对FP-tree所包含的频繁模式进行互斥的空间拆分，得到相互独立的子集，而这些子集又组成了完整的信息。

FP-tree子集分割方法

如上图，求p为前缀的投影数据库：根据头表的指针找到FP-tree的两个p节点，搜索出从这两个节点到树的根节点路径节点信息（包含支持度）。然后累加路径节点信息的支持度，删除非频繁项。对剩下的频繁项按照上一节的方法构建FP-tree。过程如下图所示：

FP-Growth算法流程：

基本思路是：不断地迭代FP-tree的构造和投影过程。

对于每个频繁项，构造它的条件投影数据库和投影FP-tree。对每个新构建的FP-tree重复这个过程，直到构造的新FP-tree为空，或者只包含一条路径。当构造的FP-tree为空时，其前缀即为频繁模式；当只包含一条路径时，通过枚举所有可能组合并与此树的前缀连接即可得到频繁模式。