python/numpy/pytorch 的广播机制

python/numpy/pytorch 的广播机制

一、python 广播机制

在python中使用 numpy 进行按位运算的时候，有一个小技巧可以帮助减少代码量——那就是broadcasting，广播机制。
例子：

A = numpy.array([1, 2, 3])
result = A + 100
print(result)

运行后结果

[101 102 103]

broadcasting 机制在深度学习函数构建中应用得很广，比如说我们在逻辑回归函数中，激活函数 z = wT * X + b, b是一个数而前面的 wT * X 是一个 1*n 的矩阵，由于python这种机制，不需要我们为b构建向量，这就减轻了代码量。

二、pytorch 广播机制

tensor （张量）的广播原则：加常数，则每一个元素都加。

a = torch.rand(2, 3)
print(a)
b = a + 1
print(b)

运行结果