python cpp cuda混合编程_混合编程[python+cpp+cuda]

很多时候,我们是基于python进行模型的设计和运行,可是基于python本身的速度问题,使得原生态python代码无法满足生产需求,不过我们可以借助其他编程语言来缓解python开发的性能瓶颈。这里简单介绍个例子,以此完成如何先基于cuda编写瓶颈函数,然后在将接口通过cpp进行封装,最后以库的形式被python调用。

1 cpp+python

首先,介绍下如何python调用cpp的代码。这里极力推荐pybind11。因为pybind11是一个轻量级,只包含头文件的库,他可以在C++中调用python,或者python中调用C++代码。其语法类似Boost.Python。可是不同的是Boost是一个重量级的库,因为为了兼容几乎所有的C++编译器,所以需要支持哪些最老的,bug最多的编译器。该作者考虑到现在c11都很普及了,所以丢弃那些之前的东西,从而打造这么一个轻量级的库。我们通过代码统计:

首先是对pybind11的安装:

git clone https://github.com/pybind/pybind11.git

cd pybind11

mkdir build && cd build

cmake ../

make -j32

上述cmake需要3.2及以上版本。最后输出结果如下图所示:

这里简单呈现下一级目录:

为了实现python调用cpp,我们先建立个文件名叫test.cpp

#include

namespace py = pybind11;

int

add(int i, int j){

return i+j;

}

// 该宏会在python的import语句触发

PYBIND11_MODULE(example, m){

m.doc() = "pybind11 example plugin";

m.def("add", &add, "a function which adds two numbers",

py::arg("i"), py::arg("j"));

}

然后执行:

g++ -Wall -shared -std=c++11 -fPIC

-I/home/zzc/software/pybind11/include

`cd /home/zzc/software/pybind11 && python3 -m pybind11 --includes`

test.cpp

-o example`python3-config --extension-suffix`

结果如下图

更详细的pybind11使用方法,可阅读官方文档

2 cuda+cpp+python

这里只介绍如何编写cuda的代码,然后提供python接口。通过调查pybind11的issues:alias template error with Intel 2016.0.3 compilers,如果直接编写cu代码,然后一步到位,会触发很多问题。而如这里最后所述,较好的方式就是分开:

编写cuda代码,并生成动态链接库;

编写cpp代码,通过函数引用方式用pybind11进行接口封装;

python导入对应模块即可使用。

如上图所示,首先,编写cuda代码,这里为了简洁,我们只写一个printf

// cuda_test.cu

#include

#include

__global__ void

kernel(){

printf("inside in kernel\n");

}

int

cuda(int a, int b){

kernel<<<1,10>>>();

cudaDeviceSynchronize();

return 0;

}

对应头文件:

//cuda_test.h

int cuda(int, int);

然后我们将其用nvcc编译成动态链接库

nvcc --shared -Xcompiler -fPIC cuda_test.cu -o libcutest.so

结果如上图

接着,我们借助pybind11,此时增加了几行

#include

#include"cuda_test.h" //新增的

namespace py = pybind11;

int

add(int i, int j){

return i+j;

}

PYBIND11_MODULE(example, m){

m.doc() = "pybind11 example plugin";

m.def("add", &add, "a function which adds two numbers",

py::arg("i"), py::arg("j"));

m.def("cuda", &cuda,"testing",

py::arg("a"), py::arg("b")); //新增的

}

然后输入如下编译方式:

g++ -Wall -shared -std=c++11 -fPIC

-L. -lcutest

-I/home/zzc/software/pybind11/include

`cd /home/zzc/software/pybind11 && python3 -mpybind11 --includes`

test.cpp

-o example`python3-config --extension-suffix`

此时生成结果

然后使用

原文:https://www.cnblogs.com/shouhuxianjian/p/10735227.html

你可能感兴趣的:(python,cpp,cuda混合编程)