树状数组能解决的问题
树状数组,也称作“二叉索引树”(Binary Indexed Tree)或 Fenwick 树。 它可以高效地实现如下两个操作:
1、数组前缀和的查询;
2、单点更新。
下面具体解释这两个操作。
1、数组的前缀和查询
首先看下面这个例子,了解什么是数组的前缀和查询。
例1:已知数组
。
1、求索引
至索引
的所有元素的和;
2、求索引
至索引
的所有元素的和;
3、求索引
至索引
的所有元素的和。
分析:“前缀和”定义了一个数组从“头”开始的区间,计算的是这个从索引位置是
开始的区间中的所有元素的“和”。
注意:我们的问题是求从索引位置是
开始的所有元素的和,而其它不是从
开始的数组的区间和可以转化成前面的这个问题。这一点可以看后面的例 4 。
2、单点更新
例 2:已知数组
。
1、将索引为
的元素增加
;
2、将索引为
的元素减少
。
分析:“单点更新”即将数组指定索引的元素值变更为另一个值,给出的参数是一个改变的数值,即“更新以后的值减去原来的值”。注意,单点更新的操作,我们描述的是“相对于之前的值发生的变化”,而不是“变成了什么”。
如果我们不使用任何任何数据结构,仅依靠定义,“数组前缀和的查询 ” 的时间复杂度是
,“单点更新” 的时间复杂度是
。
我们觉得“数组前缀和的查询 ” 的时间复杂度较大,要扫描这个区间的一大部分元素,才能得到这个区间的和。于是一个常见的做法是,我们可以首先计算出一个“前缀和数组”,这个数组的每个元素的值对应的正是原来数组的前缀和。
例3:已知数组 nums = [1, 2, 3, 4, 5, 6, 7],求前缀和数组 cumsum。
分析:根据前缀和的定义,容易计算出前缀和数组是 cumsum = [1, 3, 6, 10, 15, 21, 28]。
有了前缀和数组每次查询前缀和时间复杂度就变成了
。前缀和数组得到以后,就可以以
的时间复杂度解决“区间和”问题。
例4:已知数组 nums = [1, 2, 3, 4, 5, 6, 7] ,求区间 [3, 7] 的和,特别说明:该例中数组的索引从
开始计算。
说明:注意到这个例子有一个特别说明“该例中数组的索引从
开始计算”,大家先不要纠结为什么。因为后续我们对树状数组的定义都选择从索引
开始,这和堆的一般实现思想类似,索引
我们不放元素。这个例子只是为了说明“已知前缀和可以用
的时间复杂度得到区间和”。
分析:“前缀和(7)” = nums[1] + nums[2] + nums[3] + nums[4] + nums[5] + nums[6] + nums[7] ,“前缀和(2)” = nums[1] + nums[2],而“区间 [3, 7] 的和”= nums[3] + nums[4] + nums[5] + nums[6] + nums[7],因此“区间 [3, 7] 的和” = “前缀和(7)” - “前缀和(2)” 。
从这个例子中,我们可以看出:前缀和数组知道了,区间和也可以很快地求出来。
那如果我要执行“单点更新”,就得更新这个前缀和数组,又得计算一次前缀和,时间复杂度为
。那如果我在一次业务场景中“前缀和”和“单点更新”的次数都很多,前缀和数组就不高效了。而 Fenwick 树就是一个实现了快速计算“前缀和”和“单点更新”这两个操作的数据结构。
我们首先先看看树状数组长什么样,有一个直观的认识。
树状数组的样子
高级数据结构:树状数组-1
例5:我们以一个有
个元素的数组 A 为例(如上图),在数组 A 之上建立一个数组 C,使得数组 C 的形成如上的一个多叉树形状,数组 C 就是一个树状数组。此时我们有以下疑问:
1、树状数组要建成动态的树形结构吗?
分析:不。学习过堆、线段树的朋友一定知道,使用数组就能方便地索引左右孩子结点、双亲结点(因为规律特别容易找到),这样的树就不必创建成结点、指针那样的动态树形结构。
2、如何解释“前缀和查询”、“单点更新”?
分析:例如我们要查询“前缀和(4)”,本来应该问 A1、A2、A3、A4,有了数组 C 之后,我们只要问 C4 即可。再如,我们要更新结点 A1 的值,只要自底向上更新 C1、C2、C4、C8 的值即可。
我们构建好数组 C 以后,就完全可以抛弃数组 A 了。
理解数组
的定义
首先我们强调一点,树状数组的下标从
开始,
号索引我们不用,这一点我们看到后面就会明白。我们先了解如下的定义,请大家一定先记住这些记号所代表的含义:
1、数组 C 是一个对原始数组 A 的预处理数组。
2、我们还要熟悉几个记号。为了方便说明,避免后面行文啰嗦,我们将固定使用记号
、
、
,它们的定义如下:
记号
:表示预处理数组
的索引(十进制表示)。
记号
:表示原始数组
的索引(十进制表示)。
我们通过以下的图,来看看 C1、C2、C3、C4、C5、C6、C7、C8 分别是如何定义的。
高级数据结构:树状数组-2
高级数据结构:树状数组-3
高级数据结构:树状数组-4
高级数据结构:树状数组-5
上面的过程我们用如下的表来表示。
高级数据结构:树状数组-6
数组
的索引与数组
的索引的关系
伟大的计算机科学家注意到上表中标注了“数组
中的元素来自数组
的元素个数”,它们的规律如下:将数组
的索引
表示成二进制,从右向左数,遇到
则停止,数出
的个数记为
,则计算
就是“数组
中的元素来自数组
的个数”,并且可以具体得到来自数组
的表示,即从当前索引
开始,从右向前数出
个数组
中的元素的和,即组成了
。下面具体说明。
记号
:将
的二进制表示从右向左数出的
的个数,遇到
则停止,记为
。 我们只对数组
的索引
进行这个计算,数组
的索引
不进行相应的计算。理解
是如何得到的是关键,请务必重视。下面我们通过两个例子进行说明。
例5:当
时,计算
。
分析:因为
的二进制表示是
,从右边向左边数,第
个是
,因此
的个数是
,此时
。
例6:当
时,计算
。
分析:因为
的二进制表示是
,从右边向左边数遇到
之前,遇到了
个
,此时
= 3。
计算出
以后,
立马得到,为此我们可以画出如下表格:
高级数据结构:树状数组-7
我们看到
是我们最终想要的。下面我们介绍一种很酷的操作,叫做 lowbit ,它可以高效地计算
,即我们要证明:
其中
是将
表示成二进制以后,从右向左数,遇到
则停止时,数出的
的个数。
通过 lowbit 高效计算
lowbit(i) = i & (-i)
对,就是这么简单。理解这行伪代码需要一些二进制和位运算的知识作为铺垫。
首先,我们知道负数的二进制表示为:相应正数的二进制表示的反码 + 1。
例7:计算
的二进制表示。
分析:
的二进制表示为
,先表示成反码,即“
变
,
变
”,得
,再加
,得
。
例8:当 i = 6 时,计算
。
分析:由例 7 及“与”运算的定义,把它们按照数位对齐上下写好:
0000 0110
1111 1010
0000 0010
说明:上下同时为
才写
,否则写
,最后得到 0000 0010,这个二进制数表示成十进制数就是
。建议大家多在稿纸上写几个具体的例子来计算
,进而理解为什么
。
下面我给出一个我的直观解释:如果我们直接将一个整数“按位取反”,再与原来的数做“与”运算,一定得到
。巧就巧在,负数的二进制表示上,除了要求对“按位取反”以外,还要“加”
,在“加 ”
的过程中产生的进位数即是“将
表示成二进制以后,从右向左数,遇到
停止时数出
的个数”。
那么我们知道了
以后,又有什么用呢?由于位运算是十分高效的,它能帮助我们在树状数组中高效计算“从子结点索引到父结点”(即对应“单点更新”操作),高效计算“前缀和由预处理数组的那些元素表示”(即对应“前缀和查询操作”)。
体会 lowbit 的威力
1、 “单点更新”操作:“从子结点到父结点”
高级数据结构:树状数组-8
例9:修改
, 分析对数组
产生的变化。
从图中我们可以看出
的父结点以及祖先结点依次是
、
、
,所以修改了
以后
、
、
的值也要修改。
先看
,
,
就是
的父亲结点
的索引值。
再看
,
,
就是
的父亲结点
的索引值。
从图中,也可以验证:“红色结点的索引值 + 右下角蓝色圆形结点的值 = 红色结点的双亲结点的索引值”。
下面我试图解释这个现象:
即
,从右向左,遇到
放过,遇到
为止,给这个数位加
,这个操作就相当于加上了一个
的二进制数,即一个
值,有意思的事情就发生在此时,马上就发发生了进位,得到
,即
的二进制表示。
接下来处理
,从右向左,从右向左,遇到
放过,遇到
为止,给这个数位加
,同样地,这个操作就相当于加上了一个
的二进制数,即一个
值,可以看到,马上就发发生了进位,得到
,即
的二进制表示。
从我上面的描述中,你可以发现,我们又在做“从右边到左边数,遇到
之前数出
的个数”这件事情了,
由此我们可以总结出规律:从已知子结点的索引
,则结点
的父结点的索引
的计算公式为:
可不过我还想说明的是,这不是巧合和循环论证,这正是因为对 “从右边到左边数出
的个数,遇到
停止这件事情”的定义,使用
可以快速计算这件事成立,才会有的。
分析到这里“单点更新”的代码就可以马上写出来了。
Java 代码:
/**
* 单点更新
*
* @param i 原始数组索引 i
* @param delta 变化值 = 更新以后的值 - 原始值
*/
public void update(int i, int delta) {
// 从下到上更新,注意,预处理数组,比原始数组的 len 大 1,故 预处理索引的最大值为 len
while (i <= len) {
tree[i] += delta;
i += lowbit(i);
}
}
public static int lowbit(int x) {
return x & (-x);
}
2、 “前缀和查询操作”:计算前缀和由预处理数组的那些元素表示”
还是上面那张图。
高级数据结构:树状数组-9
例 10 :求出“前缀和(6)”。
由图可以看出“前缀和(6) ” =
+
。
先看
,
,
正好是
的上一个非叶子结点
的索引值。这里给出我的一个直观解释,如果下标表示高度,那么上一个非叶子结点,其实就是从右边向左边画一条水平线,遇到的墙的索引。只要这个值大于
,都能正确求出来。
例11:求出“前缀和(5)”。
再看
,
,
正好是
的上一个非叶子结点
的索引值,故“前缀和(5)” =
+
。
例12:求出“前缀和(7)”。
再看
,
,
正好是
的上一个非叶子结点
的索引值,再由例9 的分析,“前缀和(7)” =
+
+
。
例13:求出“前缀和(8)”。
再看
,
,
,
表示没有,从图上也可以看出从右边向左边画一条水平线,不会遇到的墙,故“前缀和(8)” =
。
经过以上的分析,求前缀和的代码也可以写出来了。
Java 代码:
/**
* 查询前缀和
*
* @param i 前缀的最大索引,即查询区间 [0, i] 的所有元素之和
*/
public int query(int i) {
// 从右到左查询
int sum = 0;
while (i > 0) {
sum += tree[i];
i -= lowbit(i);
}
return sum;
}
可以看出“单点更新”和“前缀和查询操作”的代码量其实是很少的。
树状数组的初始化
这里要说明的是,初始化前缀和数组应该交给调用者来决定。下面是一种初始化的方式。树状数组的初始化可以通过“单点更新”来实现,因为“最最开始”的时候,数组的每个元素的值都为
,每个都对应地加上原始数组的值,就完成了预处理数组
的创建。
这里要特别注意,update 操作的第
个索引值是一个变化值,而不是变化以后的值。因为我们的操作是逐层上报,汇报变更值会让我们的操作更加简单,这一点请大家反复体会。
Java 代码:
public FenwickTree(int[] nums) {
this.len = nums.length + 1;
tree = new int[this.len + 1];
for (int i = 1; i <= len; i++) {
update(i, nums[i]);
}
}
基于以上所述,树状数组的完整代码已经可以写出来了。
Java 代码:
public class FenwickTree {
/**
* 预处理数组
*/
private int[] tree;
private int len;
public FenwickTree(int n) {
this.len = n;
tree = new int[n + 1];
}
/**
* 单点更新
*
* @param i 原始数组索引 i
* @param delta 变化值 = 更新以后的值 - 原始值
*/
public void update(int i, int delta) {
// 从下到上更新,注意,预处理数组,比原始数组的 len 大 1,故 预处理索引的最大值为 len
while (i <= len) {
tree[i] += delta;
i += lowbit(i);
}
}
/**
* 查询前缀和
*
* @param i 前缀的最大索引,即查询区间 [0, i] 的所有元素之和
*/
public int query(int i) {
// 从右到左查询
int sum = 0;
while (i > 0) {
sum += tree[i];
i -= lowbit(i);
}
return sum;
}
public static int lowbit(int x) {
return x & (-x);
}
}
Python 代码:
class FenwickTree:
def __init__(self, n):
self.size = n
self.tree = [0 for _ in range(n + 1)]
def __lowbit(self, index):
return index & (-index)
# 单点更新:从下到上,最多到 size,可以取等
def update(self, index, delta):
while index <= self.size:
self.tree[index] += delta
index += self.__lowbit(index)
# 区间查询:从上到下,最少到 1,可以取等
def query(self, index):
res = 0
while index > 0:
res += self.tree[index]
index -= self.__lowbit(index)
return res
树状数组的应用
其实下面这两个问题本质上是一个问题。
例1:《剑指 Offer 》第 51 题:逆序数的计算
在数组中的两个数字如果前面一个数字大于后面的数字,则这两个数字组成一个逆序对。
输入一个数组,求出这个数组中的逆序对的总数。
样例
输入:[1,2,3,4,5,6,0]
输出:6
分析:这道题最经典的思路是使用分治法计算,不过使用树状数组语义更清晰一些。
Python 代码:
class Solution(object):
def inversePairs(self, nums):
"""
:type nums: List[int]
:rtype: int
"""
class FenwickTree:
def __init__(self, n):
self.size = n
self.tree = [0 for _ in range(n + 1)]
def __lowbit(self, index):
return index & (-index)
# 单点更新:从下到上,最多到 size,可以取等
def update(self, index, delta):
while index <= self.size:
self.tree[index] += delta
index += self.__lowbit(index)
# 区间查询:从上到下,最少到 1,可以取等
def query(self, index):
res = 0
while index > 0:
res += self.tree[index]
index -= self.__lowbit(index)
return res
# 特判
l = len(nums)
if l < 2:
return 0
# 原始数组去除重复以后从小到大排序
s = list(set(nums))
# 构建最小堆,因为从小到大一个一个拿出来,用堆比较合适
import heapq
heapq.heapify(s)
# 由数字查排名
rank_map = dict()
index = 1
# 不重复数字的个数
size = len(s)
for _ in range(size):
num = heapq.heappop(s)
rank_map[num] = index
index += 1
res = 0
# 树状数组只要不重复数字个数这么多空间就够了
ft = FenwickTree(size)
# 从后向前看,拿出一个数字来,就更新一下,然后向前查询比它小的个数
for i in range(l - 1, -1, -1):
rank = rank_map[nums[i]]
ft.update(rank, 1)
res += ft.query(rank - 1)
return res
说明:中间将数字映射到排名是将原数组“离散化”,“离散化”的原因有 2 点:
1、树状数组我们看到,索引是从“
”开始的,我们不能保证我们的数组所有的元素都大于等于
;
2、即使元素都大于等于“
”,为了节约树状数组的空间,我们将之“离散化”可以把原始的数都压缩到一个小区间。我说的有点不太清楚,这一点可以参考 树状数组 求逆序数 poj 2299。
例2:LeetCode 第 315 题:计算右侧小于当前元素的个数
给定一个整数数组 nums,按要求返回一个新数组 counts。数组 counts 有该性质: counts[i] 的值是 nums[i] 右侧小于 nums[i] 的元素的数量。
示例:
输入: [5,2,6,1]
输出: [2,1,1,0]
解释:
5 的右侧有 2 个更小的元素 (2 和 1).
2 的右侧仅有 1 个更小的元素 (1).
6 的右侧有 1 个更小的元素 (1).
1 的右侧有 0 个更小的元素.
分析:事实上,这个问题就是在计算“逆序数”,和上一个问题是一样的。“计算右侧小于当前元素的个数”我们可以“从后向前一个一个填”。因为涉及大小关系,所以要排个序,并且给出序号。这一步操作也叫“离散化”。具体方法是:先画出一个排名表,对于这个问题,排名表是:
数
排名
1
1
2
2
5
3
6
4
从后向前填:
1、遇到 1 ,1 的排名是 1 ,首先先在 1 那个位置更新 1,那么 1 之前肯定没有数了,所以就是 0;
2、遇到 6 , 6 的排名是 4,首先先在 4 那个位置更新 1,那么 6 之前可以在树状树组里面查一下,是 1;
3、遇到 2 , 2 的排名是 2,首先先在 2 那个位置更新 1,那么 2 之前可以在树状树组里面查一下,是 1;
4、遇到 5 ,5 的排名是 3,首先先在 3 那个位置更新 1,那么 3 之前可以在树状树组里面查一下,是 2;
反过来就是结果 [2,1,1,0]。
Python 代码:
class Solution:
def countSmaller(self, nums):
"""
:type nums: List[int]
:rtype: List[int]
"""
class FenwickTree:
def __init__(self, n):
self.size = n
self.tree = [0 for _ in range(n + 1)]
def __lowbit(self, index):
return index & (-index)
# 单点更新:从下到上,最多到 size,可以取等
def update(self, index, delta):
while index <= self.size:
self.tree[index] += delta
index += self.__lowbit(index)
# 区间查询:从上到下,最少到 1,可以取等
def query(self, index):
res = 0
while index > 0:
res += self.tree[index]
index -= self.__lowbit(index)
return res
l = len(nums)
if l == 0:
return []
if l == 1:
return [0]
s = list(set(nums))
import heapq
heapq.heapify(s)
index = 1
size = len(s)
rank_map = dict()
ft = FenwickTree(size)
for _ in range(size):
num = heapq.heappop(s)
rank_map[num] = index
index += 1
# 从后向前填表
res = [None for _ in range(l)]
for index in range(l - 1, -1, -1):
rank = rank_map[nums[index]]
ft.update(rank, 1)
res[index] = ft.query(rank - 1)
return res
LeetCode 上使用“树状数组”解决的问题还有:
高级数据结构:树状数组-10
本文源代码
Python:代码文件夹,Java:代码文件夹。
扩展与参考资料
1、扩展
下面这个课件提到了树状数组深入的使用技巧和二维树状数组:
我没有精力继续研究了,毕竟我不搞算法竞赛,有时间再看。
2、参考资料
编写本文参考了以下网络资源:
leetcode 315 Count of Smaller Numbers After Self 以及 BST总结。
https://segmentfault.com/a/1190000008233783
(本节完)
感觉写得比较啰嗦,还有就是从子到父,从父到子的过程最好手写写清楚。