FP-growth算法发现频繁项集（一）——构建FP树

　　常见的挖掘频繁项集算法有两类，一类是Apriori算法，另一类是FP-growth。Apriori通过不断的构造候选集、筛选候选集挖掘出频繁项集，需要多次扫描原始数据，当原始数据较大时，磁盘I/O次数太多，效率比较低下。FPGrowth不同于Apriori的“试探”策略，算法只需扫描原始数据两遍，通过FP-tree数据结构对原始数据进行压缩，效率较高。

　　FP代表频繁模式（Frequent Pattern) ，算法主要分为两个步骤：FP-tree构建、挖掘频繁项集。

FP树表示法

　　FP树通过逐个读入事务，并把事务映射到FP树中的一条路径来构造。由于不同的事务可能会有若干个相同的项，因此它们的路径可能部分重叠。路径相互重叠越多，使用FP树结构获得的压缩效果越好；如果FP树足够小，能够存放在内存中，就可以直接从这个内存中的结构提取频繁项集，而不必重复地扫描存放在硬盘上的数据。

　　一颗FP树如下图所示：

　　通常，FP树的大小比未压缩的数据小，因为数据的事务常常共享一些共同项，在最好的情况下，所有的事务都具有相同的项集，FP树只包含一条节点路径；当每个事务都具有唯一项集时，导致最坏情况发生，由于事务不包含任何共同项，FP树的大小实际上与原数据的大小一样。

　　FP树的根节点用φ表示，其余节点包括一个数据项和该数据项在本路径上的支持度；每条路径都是一条训练数据中满足最小支持度的数据项集；FP树还将所有相同项连接成链表，上图中用蓝色连线表示。

　　为了快速访问树中的相同项，还需要维护一个连接具有相同项的节点的指针列表（headTable），每个列表元素包括：数据项、该项的全局最小支持度、指向FP树中该项链表的表头的指针。

构建FP树

　　现在有如下数据：

　　FP-growth算法需要对原始训练集扫描两遍以构建FP树。

　　第一次扫描，过滤掉所有不满足最小支持度的项；对于满足最小支持度的项，按照全局最小支持度排序，在此基础上，为了处理方便，也可以按照项的关键字再次排序。

第一次扫描的后的结果

　　第二次扫描，构造FP树。

　　参与扫描的是过滤后的数据，如果某个数据项是第一次遇到，则创建该节点，并在headTable中添加一个指向该节点的指针；否则按路径找到该项对应的节点，修改节点信息。具体过程如下所示：

事务001，{z,x}

事务002，{z,x,y,t,s}

事务003，{z}

事务004，{x,s,r}

 

事务005，{z,x,y,t,r}

事务006，{z,x,y,t,s}

　　从上面可以看出，headTable并不是随着FPTree一起创建，而是在第一次扫描时就已经创建完毕，在创建FPTree时只需要将指针指向相应节点即可。从事务004开始，需要创建节点间的连接，使不同路径上的相同项连接成链表。

　　代码如下：

 1 def loadSimpDat():
 2     simpDat = [['r', 'z', 'h', 'j', 'p'],
 3                ['z', 'y', 'x', 'w', 'v', 'u', 't', 's'],
 4                ['z'],
 5                ['r', 'x', 'n', 'o', 's'],
 6                ['y', 'r', 'x', 'z', 'q', 't', 'p'],
 7                ['y', 'z', 'x', 'e', 'q', 's', 't', 'm']]
 8     return simpDat
 9 
10 def createInitSet(dataSet):
11     retDict = {}
12     for trans in dataSet:
13         fset = frozenset(trans)
14         retDict.setdefault(fset, 0)
15         retDict[fset] += 1
16     return retDict
17 
18 class treeNode:
19     def __init__(self, nameValue, numOccur, parentNode):
20         self.name = nameValue
21         self.count = numOccur
22         self.nodeLink = None
23         self.parent = parentNode
24         self.children = {}
25 
26     def inc(self, numOccur):
27         self.count += numOccur
28 
29     def disp(self, ind=1):
30         print('   ' * ind, self.name, ' ', self.count)
31         for child in self.children.values():
32             child.disp(ind + 1)
33 
34 
35 def createTree(dataSet, minSup=1):
36     headerTable = {}
37     #此一次遍历数据集， 记录每个数据项的支持度
38     for trans in dataSet:
39         for item in trans:
40             headerTable[item] = headerTable.get(item, 0) + 1
41 
42     #根据最小支持度过滤
43     lessThanMinsup = list(filter(lambda k:headerTable[k] < minSup, headerTable.keys()))
44     for k in lessThanMinsup: del(headerTable[k])
45 
46     freqItemSet = set(headerTable.keys())
47     #如果所有数据都不满足最小支持度，返回None, None
48     if len(freqItemSet) == 0:
49         return None, None
50 
51     for k in headerTable:
52         headerTable[k] = [headerTable[k], None]
53 
54     retTree = treeNode('φ', 1, None)
55     #第二次遍历数据集，构建fp-tree
56     for tranSet, count in dataSet.items():
57         #根据最小支持度处理一条训练样本，key:样本中的一个样例，value:该样例的的全局支持度
58         localD = {}
59         for item in tranSet:
60             if item in freqItemSet:
61                 localD[item] = headerTable[item][0]
62 
63         if len(localD) > 0:
64             #根据全局频繁项对每个事务中的数据进行排序,等价于 order by p[1] desc, p[0] desc
65             orderedItems = [v[0] for v in sorted(localD.items(), key=lambda p: (p[1],p[0]), reverse=True)]
66             updateTree(orderedItems, retTree, headerTable, count)
67     return retTree, headerTable
68 
69 
70 def updateTree(items, inTree, headerTable, count):
71     if items[0] in inTree.children:  # check if orderedItems[0] in retTree.children
72         inTree.children[items[0]].inc(count)  # incrament count
73     else:  # add items[0] to inTree.children
74         inTree.children[items[0]] = treeNode(items[0], count, inTree)
75         if headerTable[items[0]][1] == None:  # update header table
76             headerTable[items[0]][1] = inTree.children[items[0]]
77         else:
78             updateHeader(headerTable[items[0]][1], inTree.children[items[0]])
79 
80     if len(items) > 1:  # call updateTree() with remaining ordered items
81         updateTree(items[1:], inTree.children[items[0]], headerTable, count)
82 
83 
84 def updateHeader(nodeToTest, targetNode):  # this version does not use recursion
85     while (nodeToTest.nodeLink != None):  # Do not use recursion to traverse a linked list!
86         nodeToTest = nodeToTest.nodeLink
87     nodeToTest.nodeLink = targetNode
88 
89 simpDat = loadSimpDat()
90 dictDat = createInitSet(simpDat)
91 myFPTree,myheader = createTree(dictDat, 3)
92 myFPTree.disp()

　　上面的代码在第一次扫描后并没有将每条训练数据过滤后的项排序，而是将排序放在了第二次扫描时，这可以简化代码的复杂度。

　　控制台信息：

 

项的顺序对FP树的影响

　　值得注意的是，对项的关键字排序将会影响FP树的结构。下面两图是相同训练集生成的FP树，图1除了按照最小支持度排序外，未对项做任何处理；图2则将项按照关键字进行了降序排序。树的结构也将影响后续发现频繁项的结果。

图1 未对项的关键字排序

图2 对项的关键字降序排序

 

　　下篇继续，介绍如何发现频繁项集。

 

---

  参考文献：《机器学习实战》

  作者：我是8位的

  出处：http://www.cnblogs.com/bigmonkey

  本文以学习、研究和分享为主，如需转载，请联系本人，标明作者和出处，非商业用途！ 

转载于:https://www.cnblogs.com/bigmonkey/p/7478698.html