CuPy：将Numpy提速700倍！

点击“简说Python”，选择“星标公众号”

福利干货，第一时间送达！

@图片自制by unsplash

阅读文本大概需要 15 分钟。

前言

Numpy是Python社区的一份礼物。它允许数据科学家、机器学习实践者和统计学家以一种简单有效的方式处理矩阵式的海量数据。

当你发现Python代码运行缓慢时，特别是看到许多 for-loop循环时，那么将数据处理迁移到Numpy并让其向量化以最快的速度完成工作总是一个好主意！

尽管如此，即使这样加速Numpy也只能在CPU上运行。由于使用者的CPU通常有8个或更少的内核，因此可以加速的速度是有限的。

如何解决这个问题，CuPy来啦！

相关文章

什么是CuPy？

CuPy是一个通过利用CUDA GPU库在Nvidia GPU上实现Numpy数组的库。通过这种实现，由于拥有许多CUDA核心GPU，可以实现更好的并行加速。

官网：https://github.com/cupy/cupy

CuPy的接口是Numpy的镜像，在大多数情况下，它可以被直接替代。只要用兼容的CuPy代码替换你的Numpy代码，你就可以加快 GPU 的运行速度。CuPy将支持Numpy的大多数数组操作，包括索引、广播和各种矩阵转换。

你也可以编写自定义Python代码，利用CUDA和GPU加速，如果你有一些特定的东西还不支持的话。 只需要一小段C++格式的代码，CuPy就会自动执行GPU转换，非常类似于使用Cython。

我们可以通过pip安装这个库：

pip install cupy

运行GPU基于CuPy

对于这些基准测试，我们将使用PC机进行以下设置：

• i7–8700k CPU

• 1080 Ti GPU

• 32 GB of DDR4 3000MHz RAM

• CUDA 9.0

一旦安装了CuPy，我们可以像Numpy一样导入它：

import numpy as np
import cupy as cp
import time

对于剩下的代码，在Numpy和CuPy之间切换就像用CuPy的cp替换Numpy中的np一样简单。下面的代码为Numpy和CuPy创建了一个3D数组，其中包含10亿个1。 为了测试创建数组的速度，使用了 Python的本地time库：

### Numpy and CPU
s = time.time()
x_cpu = np.ones((1000,1000,1000))
e = time.time()
print(e - s)
### CuPy and GPU
s = time.time()
x_gpu = cp.ones((1000,1000,1000))
e = time.time()
print(e - s)

令人难以置信的是，即使只是创建数组，CuPy仍然要快得多。 Numpy在1.68秒内创建了10亿个1的数组，而CuPy只花了0.16秒，这是10.5倍的加速！

让我们尝试对数组进行一些数学运算。这次我们将整个数组乘以5，再次查看Numpy与CuPy的速度。

### Numpy and CPU
s = time.time()
x_cpu *= 5
e = time.time()
print(e - s)
### CuPy and GPU
s = time.time()
x_gpu *= 5
e = time.time()
print(e - s)

在本例中，CuPy完胜Numpy。Numpy花了0.507秒，而CuPy只花了0.000710秒。714.1倍的加速！

现在让我们尝试使用多个数组并执行一些操作：

在本例中，Numpy在CPU上以1.49秒的时间执行该进程，而CuPy在GPU上以0.0922秒的时间执行该进程。16.16倍的加速！

总是那么快吗?

使用CuPy是在GPU上多次加速Numpy和矩阵操作的一个很好的方法。需要注意的是，你将获得的加速度在很大程度上取决于所使用数组的大小。下面的表格显示了当我们改变数组的大小时速度上的差异：

一旦：

达到约1000万个数据点，加速度就会急剧上升！

而一旦：

超过1亿个数据点，加速度就会大大加快！

在此之下：

Numpy实际上更快！

还要记住，更多的GPU内存将帮助你处理更多的数据，所以重要的是看看你的GPU是否有足够的内存来容纳足够的数据，而 CuPy是值得的！

来自：https://twitter.com/GeorgeSeif94

--本文完--

今日留言主题：

说说你看了本文后的感触？

或者一句激励自己的话？

（字数不少于15字）

说明：最近每日留言赠书暂停一段时间

不过，留言打卡30天进福利群

还在继续，等你～

2小时快速掌握Python基础知识要点。

完整Python基础知识要点

学Python | 聊赚钱