torch.cumsum()

torch.cumsum()

作用：用于计算张量中的元素累积和。
其定义为:

torch.cumsum(input, dim=0)
- input: 输入张量
- dim: 想要计算累积和的维度。默认为0,对行计算累积和。

例如,如果你有一个张量:

tensor = torch.tensor([[1, 2, 3],
					 [4, 5, 6]])
          
torch.cumsum(tensor, dim=0)  
# tensor([[ 1,  2,  3],  
#          [5,  7,  9]])

这是因为对dim=0这一维,行值的累积和为:
行1不变：1，2，3
行1加到行2: 1 + 4 = 5 ; 2 + 5 = 7; 3 + 6 = 9
所以结果为 [[1 2 3] [5 7 9]]

torch.cumsum(tensor, dim=1)  
# tensor([[ 1,  3,  6],
#          [ 4,  9, 15]])

这是因为对dim=1这一维,列值的累积和为:
列1不变：1，4
列1加到列2: 1 + 2 = 3 ； 4 + 5 = 9
列2加到列3: 3 + 3 = 6 ； 9 + 6 = 15
所以结果为[[1 3 6] [4 7 9]]
这个函数在许多情况下很有用:

1. 连续随机变量的累积分布函数(CDF) - 用来计算概率分布的CDF。
2. 金字塔算法 - 用来计算图像金字塔的高度。
3. 优先队列/二叉堆 - 用于计算父节点/子节点的索引。
4. 矩阵前缀和 - 计算矩阵的前缀和,用于偏移量的计算。

例子:

# CDF  
x = torch.linspace(0, 10, steps=5)  # tensor([ 0.0000,  2.5000,  5.0000,  7.5000, 10.0000])  
y = torch.cumsum(torch.ones_like(x), 0)  # tensor([1., 2., 3., 4., 5.])

# 金字塔算法
image = torch.tensor([[1, 2, 3],  
                      [4, 5, 6],  
                      [7, 8, 9]])
torch.cumsum(image, 0)  
# tensor([[ 1,  2,  3],  
#          [ 5,  7,  9],  
#          [12, 15, 18]]) 

# 前缀和矩阵
matrix = torch.tensor([[1, 2, 3],  
                       [4, 5, 6],  
                       [7, 8, 9]])
torch.cumsum(matrix, 1)
# tensor([[ 1,  3,  6],  
#          [ 4,  9, 15],  
#          [ 7, 15, 24]])

总之,torch.cumsum()是一个简单但非常实用的函数,可以计算张量的元素累积和,应用在许多领域中。