【算法日积月累】19-高级数据结构:树状数组

树状数组能解决的问题

树状数组,也称作“二叉索引树”(Binary Indexed Tree)或 Fenwick 树。 它可以高效地实现如下两个操作:

1、数组前缀和的查询;

2、单点更新。

下面具体解释这两个操作。

1、数组的前缀和查询

首先看下面这个例子,了解什么是数组的前缀和查询。

例1:已知数组 。

1、求索引 至索引 的所有元素的和;
2、求索引 至索引 的所有元素的和;
3、求索引 至索引 的所有元素的和。

分析:“前缀和”定义了一个数组从“头”开始的区间,计算的是这个从索引位置是 开始的区间中的所有元素的“和”。

注意:我们的问题是求从索引位置是 开始的所有元素的和,而其它不是从 开始的数组的区间和可以转化成前面的这个问题。这一点可以看后面的例 4 。

2、单点更新

例 2:已知数组 。

1、将索引为 的元素增加 ;
2、将索引为 的元素减少 。

分析:“单点更新”即将数组指定索引的元素值变更为另一个值,给出的参数是一个改变的数值,即“更新以后的值减去原来的值”。注意,单点更新的操作,我们描述的是“相对于之前的值发生的变化”,而不是“变成了什么”。

如果我们不使用任何任何数据结构,仅依靠定义,“数组前缀和的查询 ” 的时间复杂度是 ,“单点更新” 的时间复杂度是 。
我们觉得“数组前缀和的查询 ” 的时间复杂度较大,要扫描这个区间的一大部分元素,才能得到这个区间的和。于是一个常见的做法是,我们可以首先计算出一个“前缀和数组”,这个数组的每个元素的值对应的正是原来数组的前缀和。

例3:已知数组 nums = [1, 2, 3, 4, 5, 6, 7],求前缀和数组 cumsum

分析:根据前缀和的定义,容易计算出前缀和数组是 cumsum = [1, 3, 6, 10, 15, 21, 28]

有了前缀和数组每次查询前缀和时间复杂度就变成了 。前缀和数组得到以后,就可以以 的时间复杂度解决“区间和”问题。

例4:已知数组 nums = [1, 2, 3, 4, 5, 6, 7] ,求区间 [3, 7] 的和,特别说明:该例中数组的索引从 开始计算。

说明:注意到这个例子有一个特别说明“该例中数组的索引从 开始计算”,大家先不要纠结为什么。因为后续我们对树状数组的定义都选择从索引 开始,这和堆的一般实现思想类似,索引 我们不放元素。这个例子只是为了说明“已知前缀和可以用 的时间复杂度得到区间和”。

分析:“前缀和(7)” = nums[1] + nums[2] + nums[3] + nums[4] + nums[5] + nums[6] + nums[7] ,“前缀和(2)” = nums[1] + nums[2],而“区间 [3, 7] 的和”= nums[3] + nums[4] + nums[5] + nums[6] + nums[7],因此“区间 [3, 7] 的和” = “前缀和(7)” - “前缀和(2)” 。

从这个例子中,我们可以看出:前缀和数组知道了,区间和也可以很快地求出来。

那如果我要执行“单点更新”,就得更新这个前缀和数组,又得计算一次前缀和,时间复杂度为 。那如果我在一次业务场景中“前缀和”和“单点更新”的次数都很多,前缀和数组就不高效了。而 Fenwick 树就是一个实现了快速计算“前缀和”和“单点更新”这两个操作的数据结构。

我们首先先看看树状数组长什么样,有一个直观的认识。

树状数组的样子

【算法日积月累】19-高级数据结构:树状数组_第1张图片
高级数据结构:树状数组-1

例5:我们以一个有 个元素的数组 A 为例(如上图),在数组 A 之上建立一个数组 C,使得数组 C 的形成如上的一个多叉树形状,数组 C 就是一个树状数组。此时我们有以下疑问:

1、树状数组要建成动态的树形结构吗?

分析:不。学习过堆、线段树的朋友一定知道,使用数组就能方便地索引左右孩子结点、双亲结点(因为规律特别容易找到),这样的树就不必创建成结点、指针那样的动态树形结构。

2、如何解释“前缀和查询”、“单点更新”?
分析:例如我们要查询“前缀和(4)”,本来应该问 A1A2A3A4,有了数组 C 之后,我们只要问 C4 即可。再如,我们要更新结点 A1 的值,只要自底向上更新 C1C2C4C8 的值即可。

我们构建好数组 C 以后,就完全可以抛弃数组 A 了。

理解数组 的定义

首先我们强调一点,树状数组的下标从 开始, 号索引我们不用,这一点我们看到后面就会明白。我们先了解如下的定义,请大家一定先记住这些记号所代表的含义:

1、数组 C 是一个对原始数组 A 的预处理数组。

2、我们还要熟悉几个记号。为了方便说明,避免后面行文啰嗦,我们将固定使用记号 、 、 ,它们的定义如下:
记号 :表示预处理数组 的索引(十进制表示)。
记号 :表示原始数组 的索引(十进制表示)。
我们通过以下的图,来看看 C1C2C3C4C5C6C7C8 分别是如何定义的。

【算法日积月累】19-高级数据结构:树状数组_第2张图片
高级数据结构:树状数组-2
【算法日积月累】19-高级数据结构:树状数组_第3张图片
高级数据结构:树状数组-3
【算法日积月累】19-高级数据结构:树状数组_第4张图片
高级数据结构:树状数组-4
【算法日积月累】19-高级数据结构:树状数组_第5张图片
高级数据结构:树状数组-5

上面的过程我们用如下的表来表示。

【算法日积月累】19-高级数据结构:树状数组_第6张图片
高级数据结构:树状数组-6

数组 的索引与数组 的索引的关系

伟大的计算机科学家注意到上表中标注了“数组 中的元素来自数组 的元素个数”,它们的规律如下:将数组 的索引 表示成二进制,从右向左数,遇到 则停止,数出 的个数记为 ,则计算 就是“数组 中的元素来自数组 的个数”,并且可以具体得到来自数组 的表示,即从当前索引 开始,从右向前数出 个数组 中的元素的和,即组成了 。下面具体说明。

记号 :将 的二进制表示从右向左数出的 的个数,遇到 则停止,记为 。 我们只对数组 的索引 进行这个计算,数组 的索引 不进行相应的计算。理解 是如何得到的是关键,请务必重视。下面我们通过两个例子进行说明。

例5:当 时,计算 。

分析:因为 的二进制表示是 ,从右边向左边数,第 个是 ,因此 的个数是 ,此时 。

例6:当 时,计算 。

分析:因为 的二进制表示是 ,从右边向左边数遇到 之前,遇到了 个 ,此时 = 3。

计算出 以后, 立马得到,为此我们可以画出如下表格:

【算法日积月累】19-高级数据结构:树状数组_第7张图片
高级数据结构:树状数组-7

我们看到 是我们最终想要的。下面我们介绍一种很酷的操作,叫做 lowbit ,它可以高效地计算 ,即我们要证明:

其中 是将 表示成二进制以后,从右向左数,遇到 则停止时,数出的 的个数。

通过 lowbit 高效计算

lowbit(i) = i & (-i)

对,就是这么简单。理解这行伪代码需要一些二进制和位运算的知识作为铺垫。

首先,我们知道负数的二进制表示为:相应正数的二进制表示的反码 + 1

例7:计算 的二进制表示。

分析: 的二进制表示为 ,先表示成反码,即“ 变 , 变 ”,得 ,再加 ,得 。

例8:当 i = 6 时,计算 。

分析:由例 7 及“与”运算的定义,把它们按照数位对齐上下写好:

0000 0110
1111 1010
0000 0010

说明:上下同时为 才写 ,否则写 ,最后得到 0000 0010,这个二进制数表示成十进制数就是 。建议大家多在稿纸上写几个具体的例子来计算 ,进而理解为什么 。

下面我给出一个我的直观解释:如果我们直接将一个整数“按位取反”,再与原来的数做“与”运算,一定得到 。巧就巧在,负数的二进制表示上,除了要求对“按位取反”以外,还要“加” ,在“加 ” 的过程中产生的进位数即是“将 表示成二进制以后,从右向左数,遇到 停止时数出 的个数”。

那么我们知道了 以后,又有什么用呢?由于位运算是十分高效的,它能帮助我们在树状数组中高效计算“从子结点索引到父结点”(即对应“单点更新”操作),高效计算“前缀和由预处理数组的那些元素表示”(即对应“前缀和查询操作”)。

体会 lowbit 的威力

1、 “单点更新”操作:“从子结点到父结点”

【算法日积月累】19-高级数据结构:树状数组_第8张图片
高级数据结构:树状数组-8

例9:修改 , 分析对数组 产生的变化。

从图中我们可以看出 的父结点以及祖先结点依次是 、、 ,所以修改了 以后 、、 的值也要修改。

先看 ,, 就是 的父亲结点 的索引值。
再看 ,, 就是 的父亲结点 的索引值。
从图中,也可以验证:“红色结点的索引值 + 右下角蓝色圆形结点的值 = 红色结点的双亲结点的索引值”。

下面我试图解释这个现象: 即 ,从右向左,遇到 放过,遇到 为止,给这个数位加 ,这个操作就相当于加上了一个 的二进制数,即一个 值,有意思的事情就发生在此时,马上就发发生了进位,得到 ,即 的二进制表示。
接下来处理 ,从右向左,从右向左,遇到 放过,遇到 为止,给这个数位加 ,同样地,这个操作就相当于加上了一个 的二进制数,即一个 值,可以看到,马上就发发生了进位,得到 ,即 的二进制表示。

从我上面的描述中,你可以发现,我们又在做“从右边到左边数,遇到 之前数出 的个数”这件事情了,
由此我们可以总结出规律:从已知子结点的索引 ,则结点 的父结点的索引 的计算公式为:

可不过我还想说明的是,这不是巧合和循环论证,这正是因为对 “从右边到左边数出 的个数,遇到 停止这件事情”的定义,使用 可以快速计算这件事成立,才会有的。

分析到这里“单点更新”的代码就可以马上写出来了。

Java 代码:

/**
 * 单点更新
 *
 * @param i     原始数组索引 i
 * @param delta 变化值 = 更新以后的值 - 原始值
 */
public void update(int i, int delta) {
    // 从下到上更新,注意,预处理数组,比原始数组的 len 大 1,故 预处理索引的最大值为 len
    while (i <= len) {
        tree[i] += delta;
        i += lowbit(i);
    }
}

public static int lowbit(int x) {
    return x & (-x);
}

2、 “前缀和查询操作”:计算前缀和由预处理数组的那些元素表示”

还是上面那张图。

【算法日积月累】19-高级数据结构:树状数组_第9张图片
高级数据结构:树状数组-9

例 10 :求出“前缀和(6)”。

由图可以看出“前缀和(6) ” = + 。

先看 ,, 正好是 的上一个非叶子结点 的索引值。这里给出我的一个直观解释,如果下标表示高度,那么上一个非叶子结点,其实就是从右边向左边画一条水平线,遇到的墙的索引。只要这个值大于 ,都能正确求出来。

例11:求出“前缀和(5)”。

再看 ,, 正好是 的上一个非叶子结点 的索引值,故“前缀和(5)” = + 。

例12:求出“前缀和(7)”。

再看 ,, 正好是 的上一个非叶子结点 的索引值,再由例9 的分析,“前缀和(7)” = + + 。

例13:求出“前缀和(8)”。

再看 ,, , 表示没有,从图上也可以看出从右边向左边画一条水平线,不会遇到的墙,故“前缀和(8)” = 。

经过以上的分析,求前缀和的代码也可以写出来了。

Java 代码:

/**
 * 查询前缀和
 *
 * @param i 前缀的最大索引,即查询区间 [0, i] 的所有元素之和
 */
public int query(int i) {
    // 从右到左查询
    int sum = 0;
    while (i > 0) {
        sum += tree[i];
        i -= lowbit(i);
    }
    return sum;
}

可以看出“单点更新”和“前缀和查询操作”的代码量其实是很少的。

树状数组的初始化

这里要说明的是,初始化前缀和数组应该交给调用者来决定。下面是一种初始化的方式。树状数组的初始化可以通过“单点更新”来实现,因为“最最开始”的时候,数组的每个元素的值都为 ,每个都对应地加上原始数组的值,就完成了预处理数组 的创建。
这里要特别注意,update 操作的第 个索引值是一个变化值,而不是变化以后的值。因为我们的操作是逐层上报,汇报变更值会让我们的操作更加简单,这一点请大家反复体会。

Java 代码:

public FenwickTree(int[] nums) {
    this.len = nums.length + 1;
    tree = new int[this.len + 1];
    for (int i = 1; i <= len; i++) {
        update(i, nums[i]);
    }
}

基于以上所述,树状数组的完整代码已经可以写出来了。

Java 代码:

public class FenwickTree {

    /**
     * 预处理数组
     */
    private int[] tree;
    private int len;

    public FenwickTree(int n) {
        this.len = n;
        tree = new int[n + 1];
    }

    /**
     * 单点更新
     *
     * @param i     原始数组索引 i
     * @param delta 变化值 = 更新以后的值 - 原始值
     */
    public void update(int i, int delta) {
        // 从下到上更新,注意,预处理数组,比原始数组的 len 大 1,故 预处理索引的最大值为 len
        while (i <= len) {
            tree[i] += delta;
            i += lowbit(i);
        }
    }

    /**
     * 查询前缀和
     *
     * @param i 前缀的最大索引,即查询区间 [0, i] 的所有元素之和
     */
    public int query(int i) {
        // 从右到左查询
        int sum = 0;
        while (i > 0) {
            sum += tree[i];
            i -= lowbit(i);
        }
        return sum;
    }

    public static int lowbit(int x) {
        return x & (-x);
    }
}

Python 代码:

class FenwickTree:
    def __init__(self, n):
        self.size = n
        self.tree = [0 for _ in range(n + 1)]

    def __lowbit(self, index):
        return index & (-index)

    # 单点更新:从下到上,最多到 size,可以取等
    def update(self, index, delta):
        while index <= self.size:
            self.tree[index] += delta
            index += self.__lowbit(index)

    # 区间查询:从上到下,最少到 1,可以取等
    def query(self, index):
        res = 0
        while index > 0:
            res += self.tree[index]
            index -= self.__lowbit(index)
        return res

树状数组的应用

其实下面这两个问题本质上是一个问题。

例1:《剑指 Offer 》第 51 题:逆序数的计算

传送门:数组中的逆序对。

在数组中的两个数字如果前面一个数字大于后面的数字,则这两个数字组成一个逆序对。

输入一个数组,求出这个数组中的逆序对的总数。

样例

输入:[1,2,3,4,5,6,0]

输出:6

分析:这道题最经典的思路是使用分治法计算,不过使用树状数组语义更清晰一些。

Python 代码:

class Solution(object):
    def inversePairs(self, nums):
        """
        :type nums: List[int]
        :rtype: int
        """

        class FenwickTree:
            def __init__(self, n):
                self.size = n
                self.tree = [0 for _ in range(n + 1)]

            def __lowbit(self, index):
                return index & (-index)

            # 单点更新:从下到上,最多到 size,可以取等
            def update(self, index, delta):
                while index <= self.size:
                    self.tree[index] += delta
                    index += self.__lowbit(index)

            # 区间查询:从上到下,最少到 1,可以取等
            def query(self, index):
                res = 0
                while index > 0:
                    res += self.tree[index]
                    index -= self.__lowbit(index)
                return res

        # 特判
        l = len(nums)
        if l < 2:
            return 0

        # 原始数组去除重复以后从小到大排序
        s = list(set(nums))

        # 构建最小堆,因为从小到大一个一个拿出来,用堆比较合适
        import heapq
        heapq.heapify(s)

        # 由数字查排名
        rank_map = dict()
        index = 1
        # 不重复数字的个数
        size = len(s)
        for _ in range(size):
            num = heapq.heappop(s)
            rank_map[num] = index
            index += 1

        res = 0
        # 树状数组只要不重复数字个数这么多空间就够了
        ft = FenwickTree(size)
        # 从后向前看,拿出一个数字来,就更新一下,然后向前查询比它小的个数
        for i in range(l - 1, -1, -1):
            rank = rank_map[nums[i]]
            ft.update(rank, 1)
            res += ft.query(rank - 1)
        return res

说明:中间将数字映射到排名是将原数组“离散化”,“离散化”的原因有 2 点:

1、树状数组我们看到,索引是从“”开始的,我们不能保证我们的数组所有的元素都大于等于 ;

2、即使元素都大于等于“”,为了节约树状数组的空间,我们将之“离散化”可以把原始的数都压缩到一个小区间。我说的有点不太清楚,这一点可以参考 树状数组 求逆序数 poj 2299。

例2:LeetCode 第 315 题:计算右侧小于当前元素的个数

传送门:315. 计算右侧小于当前元素的个数。

给定一个整数数组 nums,按要求返回一个新数组 counts。数组 counts 有该性质: counts[i] 的值是 nums[i] 右侧小于 nums[i] 的元素的数量。

示例:

输入: [5,2,6,1]
输出: [2,1,1,0] 
解释:
5 的右侧有 2 个更小的元素 (2 和 1).
2 的右侧仅有 1 个更小的元素 (1).
6 的右侧有 1 个更小的元素 (1).
1 的右侧有 0 个更小的元素.

分析:事实上,这个问题就是在计算“逆序数”,和上一个问题是一样的。“计算右侧小于当前元素的个数”我们可以“从后向前一个一个填”。因为涉及大小关系,所以要排个序,并且给出序号。这一步操作也叫“离散化”。具体方法是:先画出一个排名表,对于这个问题,排名表是:

排名
1 1
2 2
5 3
6 4

从后向前填:

1、遇到 1 ,1 的排名是 1 ,首先先在 1 那个位置更新 1,那么 1 之前肯定没有数了,所以就是 0;

2、遇到 6 , 6 的排名是 4,首先先在 4 那个位置更新 1,那么 6 之前可以在树状树组里面查一下,是 1;

3、遇到 2 , 2 的排名是 2,首先先在 2 那个位置更新 1,那么 2 之前可以在树状树组里面查一下,是 1;

4、遇到 5 ,5 的排名是 3,首先先在 3 那个位置更新 1,那么 3 之前可以在树状树组里面查一下,是 2;

反过来就是结果 [2,1,1,0]。

Python 代码:

class Solution:
    def countSmaller(self, nums):
        """
        :type nums: List[int]
        :rtype: List[int]
        """

        class FenwickTree:
            def __init__(self, n):
                self.size = n
                self.tree = [0 for _ in range(n + 1)]

            def __lowbit(self, index):
                return index & (-index)

            # 单点更新:从下到上,最多到 size,可以取等
            def update(self, index, delta):
                while index <= self.size:
                    self.tree[index] += delta
                    index += self.__lowbit(index)

            # 区间查询:从上到下,最少到 1,可以取等
            def query(self, index):
                res = 0
                while index > 0:
                    res += self.tree[index]
                    index -= self.__lowbit(index)
                return res

        l = len(nums)
        if l == 0:
            return []
        if l == 1:
            return [0]

        s = list(set(nums))
        import heapq
        heapq.heapify(s)
        index = 1

        size = len(s)
        rank_map = dict()
        ft = FenwickTree(size)
        for _ in range(size):
            num = heapq.heappop(s)
            rank_map[num] = index
            index += 1

        # 从后向前填表
        res = [None for _ in range(l)]
        for index in range(l - 1, -1, -1):
            rank = rank_map[nums[index]]
            ft.update(rank, 1)
            res[index] = ft.query(rank - 1)
        return res

LeetCode 上使用“树状数组”解决的问题还有:

【算法日积月累】19-高级数据结构:树状数组_第10张图片
高级数据结构:树状数组-10

本文源代码

Python:代码文件夹,Java:代码文件夹。

扩展与参考资料

1、扩展

下面这个资料是 AcWing 网站上 @byene0923 同学推荐的,是更严谨和专业的介绍。
https://www.topcoder.com/community/competitive-programming/tutorials/binary-indexed-trees/

下面这个课件提到了树状数组深入的使用技巧和二维树状数组:

https://wenku.baidu.com/view/1bc0aa1852d380eb62946db0.html?from=search

我没有精力继续研究了,毕竟我不搞算法竞赛,有时间再看。

2、参考资料

编写本文参考了以下网络资源:

【算法】逆序对问题的四种解法(归并排序,BST,树状数组,线段树)及变形
https://blog.csdn.net/haolexiao/article/details/54989306

leetcode 315 Count of Smaller Numbers After Self 以及 BST总结。
https://segmentfault.com/a/1190000008233783

poj 2299 Ultra-QuickSort 求逆序数,树状数组解法,详细解析
https://blog.csdn.net/Lionel_D/article/details/43535741

白话数据结构
https://blog.csdn.net/column/details/acxxz.html

树状数组也可以用于求逆序对。
https://blog.csdn.net/hongchh/article/details/52242415

(本节完)


感觉写得比较啰嗦,还有就是从子到父,从父到子的过程最好手写写清楚。

你可能感兴趣的:(【算法日积月累】19-高级数据结构:树状数组)