OpenMP(Open Muti-Processing)
OpenMP缺点:
1:作为高层抽象,OpenMp并不适合需要复杂的线程间同步和互斥的场合;
2:另一个缺点是不能在非共享内存系统(如计算机集群)上使用。在这样的系统上,MPI使用较多。
关于openMP实现 临界区 与互斥锁 可参考 reference3
==========================WINDOWS系统中使用==========================
基本使用:
在visual C++2010中使用OpenMP
1:将 Project 的Properties中C/C++里Language的OpenMP Support开启(参数为 /openmp);
2:在编写使用OpenMP 的程序时,则需要先include OpenMP的头文件:omp.h;
3:在要并行化的for循环前面加上 #pragma omp parallel for
如下简单例子:
//未使用OpenMP
#include
#include
void Test(int n) {
for(int i = 0; i < 10000; ++i)
{
//do nothing, just waste time
}
printf("%d, ", n);
}
int main(int argc,char* argv[])
{
for(int i = 0; i < 16; ++i)
Test(i);
system("pause");
}
结果为:
0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10,11,12,13,14,15,
//使用OpenMP
#include
#include
#include
void Test(int n) {
for(int i = 0; i < 10000; ++i) {
//do nothing, just waste time
}
printf("%d, ", n);
}
int main(int argc,char* argv[])
{
#pragma omp parallel for
for(int i = 0; i < 16; ++i)
Test(i);
system("pause");
}
(我的笔记本为2核 4线程)
显示结果为:
0,12,4,8,1,13,5,9,2,14,6,10,3,15,7,11,
OpenMP将循环0-15拆分成0-3,4-7,8-11,12-15四个部分来执行。
当编译器发现#pragma omp parallel for后,自动将下面的for循环分成N份,(N为电脑CPU线程数),然后把每份指派给一个线程去执行,而且多线程之间为并行执行。
关于获取CPU核数与线程ID
#include
#include
int main(){
int sum = 0;
int a[10] = {1,2,3,4,5,6,7,8,9,10};
int coreNum = omp_get_num_procs();//获得处理器个数(其实获取的是线程的数量,我的笔记本为2核4线程,测试时获取的数字为4)
int* sumArray = new int[coreNum];//对应处理器个数,先生成一个数组
for (int i=0;iomp_get_thread_num();//获得每个线程的ID
sumArray[k] = sumArray[k]+a[i];
}
for (int i = 0;i
=================ubuntu系统中=====================================
Hands on FAQ:
*怎么在Linux上运行OpenMP程序?
> 只需要安装支持OpenMP的编译器即可,比如GCC 4.2以上版本(好像Fedora Core带的部分4.1版本也支持),或者ICC(我用的version 9.1是支持的,其他没试过)。
*怎么缺点编译器是不是支持OpenMP?
> 看编译器安装路径下/include目录里有没有omp.h。
*怎么区分OpenMP程序?
> 程序中有没有以下内容:
> #include
> #pragma omp ...
*怎么编译OpenMP程序?
> gcc -fopenmp [sourcefile] -o [destination file]
> icc -openmp [sourcefile] -o [destination file]
*怎么运行OpenMP程序?
> 编译后得到的文件和普通可执行文件一样可以直接执行。
*怎么设置线程数?
>:在程序中写入set_num_threads(n);
> Method2:export OMP_NUM_THREADS=n;
> 两种方法各有用处,前者只对该程序有效,后者不用重新编译就可以修改线程数。
Example1:并行与串行时间差别
Sequetial Version:
#include
#include
#include
using namespace std;
void test(int n)
{
int a=0;
struct timeval tstart,tend;
double timeUsed;
gettimeofday(&tstart,NULL);
for(int i=0;i<1000000000;i++)
{
a=i+1;
}
gettimeofday(&tend,NULL);
timeUsed=1000000*(tend.tv_sec-tstart.tv_sec)+tend.tv_usec-tstart.tv_usec;
cout<
#include
#include
#include
#include
using namespace std;
void test(int n)
{
int a=0;
struct timeval tstart,tend;
double timeUsed;
gettimeofday(&tstart,NULL);
for(int i=0;i<1000000000;i++)
{
a=i+1;
}
gettimeofday(&tend,NULL);
timeUsed=1000000*(tend.tv_sec-tstart.tv_sec)+tend.tv_usec-tstart.tv_usec;
cout<
Sequential version:
0 Time=2064.69 ms
1 Time=2061.11 ms
2 Time=2076.32 ms
3 Time=2077.93 ms
Total Time=8280.14 ms
2 Time=2148.22 ms
3 Time=2151.72 ms
0 Time=2151.85 ms
1 Time=2151.77 ms
Total Time=2158.81 ms
------------------------------------------------------------------------------------------------------------------------------------------------------------
Example2:矩阵拟合法计算Pi
Sequential Version:
#include
#include
#include
//#include
using namespace std;
int main ()
{
struct timeval tstart,tend;
double timeUsed;
static long num_steps =1000000000;
double step;
int i;
double x, pi, sum = 0.0;
step = 1.0/(double) num_steps;
gettimeofday(&tstart,NULL);
//#pragma omp parallel for reduction(+:sum) private(x) /*只加了这一句,其他不变*/
for (i=0;i < num_steps; i++)
{
x = (i+0.5)*step;
sum = sum + 4.0/(1.0+x*x);
}
pi = step * sum;
gettimeofday(&tend,NULL);
timeUsed=1000000*(tend.tv_sec-tstart.tv_sec)+tend.tv_usec-tstart.tv_usec;
timeUsed=timeUsed/1000;
cout<<"pi="<
Parallel Version:
#include
#include
#include
#include
using namespace std;
int main ()
{
struct timeval tstart,tend;
double timeUsed;
static long num_steps = 1000000000;
double step;
int i;
double x, pi, sum = 0.0;
step = 1.0/(double) num_steps;
gettimeofday(&tstart,NULL);
#pragma omp parallel for reduction(+:sum) private(x) /*只加了这一句,其他不变*/
for (i=0;i < num_steps; i++)
{
x = (i+0.5)*step;
sum = sum + 4.0/(1.0+x*x);
}
pi = step * sum;
gettimeofday(&tend,NULL);
timeUsed=1000000*(tend.tv_sec-tstart.tv_sec)+tend.tv_usec-tstart.tv_usec;
timeUsed=timeUsed/1000;
cout<<"pi="<
运行结果为:
von@von-pc:~/test$ ./parrPI2
pi=3.14159 (1000000000 ) 3729.68 ms
von@von-pc:~/test$ ./seqPI2
pi=3.14159 (1000000000 ) 13433.1 ms
我的电脑为2核,4线程 提升速度为13433/3739=3.6 。因为这个程序本身具有良好的并发性,循环间几乎没有数据依赖,除了sum,但是用reduction(+:sum)把对于sum的相关也消除了。
关于reduction , private具体请到references 7中查看。
需要特别注意的一点是:
上述的计时方法使用的是gettimeofday() 而原博客给出的计时方法是time_t (使用time_t是没法达到作者所说的速度的,你会发现 并行的时间比串行还慢)。
主要原因:计时方法不一样,具体请看两者的区别(另一篇博客)
reference:
1:http://baike.baidu.com/view/1687659.htm
2:http://www.cnblogs.com/yangyangcv/archive/2012/03/23/2413335.html
-----------------------------------------------------------------------------------------------------------------
3:http://www.ibm.com/developerworks/cn/aix/library/au-aix-openmp-framework/index.html
4:http://openmp.org/wp/openmp-compilers/(官网)
5:http://blog.163.com/zl_dream1106/blog/static/84286020105210012295/ (linux 系统中OpenMP)
6:http://blog.163.com/zl_dream1106/blog/static/842860201052952352/?suggestedreading&wumii(OpenMP编程指南)
7:http://blog.163.com/zl_dream1106/blog/static/84286020105293213869/?suggestedreading&wumii(OpenMP 入门)