深度学习中向量化与非向量化计算的差别

使用向量化(Vectorization)计算，速度是非向量化(non-Vectorization)计算的300倍，因为向量化计算使用了python的内建函数，调用了CPU/GPU的SIMD指令集进行计算，大大减少了因为python高级语言执行损耗的时间。
以下这个案例演示了两种计算之间的差别：

# -*- coding:utf-8 -*-
import numpy as np
import time

# 创建矩阵
a = np.random.rand(1000000)
b = np.random.rand(1000000)

# 向量法计算矩阵
tic = time.time()
c = np.dot(a,b)
toc = time.time()

print("c的值为:")
print(c)
print("向量方法实现矩阵计算，花费时间：" + str((toc-tic)*1000) + "ms")

# 非向量法计算矩阵
c = 0
tic = time.time()
for i in range(1000000):
    c += a[i]*b[i]

toc = time.time()

print("c的值为:")
print(c)
print("非向量方法实现矩阵计算，花费时间：" + str((toc-tic)*1000) + "ms")
"""输出"""
# c的值为:
# 250003.396789
# 向量方法实现矩阵计算，花费时间：1.085042953491211ms
# c的值为:
# 250003.396789
# 非向量方法实现矩阵计算，花费时间：473.3278751373291ms

代码来源：神经网络和深度学习-吴恩达 Andrew Ng