多线程中的Volatile

多线程中的Volatile

在UE的多线程环境中，资源处理，渲染很多地方使用了Volatile关键字，自觉在并行方面知识甚少，趁空闲时机，Mark一记，转些相关方面的文档，学海无涯，愿求之甚解。

一

（转自http://www.cnblogs.com/yc_sunniwell/archive/2010/06/24/1764231.html）

什么是volatile

volatile提醒编译器它后面所定义的变量随时都有可能改变，因此编译后的程序每次需要存储或读取这个变量的时候，都会直接从变量地址中读取数据。如果没有volatile关键字，则编译器可能优化读取和存储，可能暂时使用寄存器中的值，如果这个变量由别的程序更新了的话，将出现不一致的现象。下面举例说明。在DSP开发中，经常需要等待某个事件的触发，所以经常会写出这样的程序：
short flag;
void test()
{
do1();
while(flag==0);
do2();
}

    这段程序等待内存变量flag的值变为1(怀疑此处是0,有点疑问,)之后才运行do2()。变量flag的值由别的程序更改，这个程序可能是某个硬件中断服务程序。例如：如果某个按钮按下的话，就会对DSP产生中断，在按键中断程序中修改flag为1，这样上面的程序就能够得以继续运行。但是，编译器并不知道flag的值会被别的程序修改，因此在它进行优化的时候，可能会把flag的值先读入某个寄存器，然后等待那个寄存器变为1。如果不幸进行了这样的优化，那么while循环就变成了死循环，因为寄存器的内容不可能被中断服务程序修改。为了让程序每次都读取真正flag变量的值，就需要定义为如下形式：
volatile short flag;
    需要注意的是，没有volatile也可能能正常运行，但是可能修改了编译器的优化级别之后就又不能正常运行了。因此经常会出现debug版本正常，但是release版本却不能正常的问题。所以为了安全起见，只要是等待别的程序修改某个变量的话，就加上volatile关键字。

volatile的本意是“易变的”
      由于访问寄存器的速度要快过RAM，所以编译器一般都会作减少存取外部RAM的优化。比如：
static int i=0;
int main(void)
{
...
while (1)
{
if (i) do_something();
}
}
/* Interrupt service routine. */
void ISR_2(void)
{
i=1;
}
    程序的本意是希望ISR_2中断产生时，在main当中调用do_something函数，但是，由于编译器判断在main函数里面没有修改过i，因此可能只执行一次对从i到某寄存器的读操作，然后每次if判断都只使用这个寄存器里面的“i副本”，导致do_something永远也不会被调用。如果变量加上volatile修饰，则编译器保证对此变量的读写操作都不会被优化（肯定执行）。此例中i也应该如此说明。
    一般说来，volatile用在如下的几个地方：
1、中断服务程序中修改的供其它程序检测的变量需要加volatile；
2、多任务环境下各任务间共享的标志应该加volatile；
3、存储器映射的硬件寄存器通常也要加volatile说明，因为每次对它的读写都可能由不同意义；
另外，以上这几种情况经常还要同时考虑数据的完整性（相互关联的几个标志读了一半被打断了重写），在1中可以通过关中断来实现，2中可以禁止任务调度，3中则只能依靠硬件的良好设计了。
volatile 的含义
     volatile总是与优化有关，编译器有一种技术叫做数据流分析，分析程序中的变量在哪里赋值、在哪里使用、在哪里失效，分析结果可以用于常量合并，常量传播等优化，进一步可以死代码消除。但有时这些优化不是程序所需要的，这时可以用volatile关键字禁止做这些优化，volatile的字面含义是易变的，它有下面的作用：
 1 不会在两个操作之间把volatile变量缓存在寄存器中。在多任务、中断、甚至setjmp环境下，变量可能被其他的程序改变，编译器自己无法知道，volatile就是告诉编译器这种情况。
2 不做常量合并、常量传播等优化，所以像下面的代码：
volatile int i = 1;if (i > 0) ...if的条件不会当作无条件真。
3 对volatile变量的读写不会被优化掉。如果你对一个变量赋值但后面没用到，编译器常常可以省略那个赋值操作，然而对Memory Mapped IO的处理是不能这样优化的。
    前面有人说volatile可以保证对内存操作的原子性，这种说法不大准确，其一，x86需要LOCK前缀才能在SMP下保证原子性，其二，RISC根本不能对内存直接运算，要保证原子性得用别的方法，如atomic_inc。
    对于jiffies，它已经声明为volatile变量，我认为直接用jiffies++就可以了，没必要用那种复杂的形式，因为那样也不能保证原子性。
    你可能不知道在Pentium及后续CPU中，下面两组指令
inc jiffies
;;
mov jiffies, %eax
inc %eax
mov %eax, jiffies
作用相同，但一条指令反而不如三条指令快。
编译器优化 C关键字volatile → memory破坏描述符zz

“memory”比较特殊，可能是内嵌汇编中最难懂部分。为解释清楚它，先介绍一下编译器的优化知识，再看C关键字volatile。最后去看该描述符。
1、编译器优化介绍
     内存访问速度远不及CPU处理速度，为提高机器整体性能，在硬件上引入硬件高速缓存Cache，加速对内存的访问。另外在现代CPU中指令的执行并不一定严格按照顺序执行，没有相关性的指令可以乱序执行，以充分利用CPU的指令流水线，提高执行速度。以上是硬件级别的优化。再看软件一级的优化：一种是在编写代码时由程序员优化，另一种是由编译器进行优化。编译器优化常用的方法有：将内存变量缓存到寄存器；调整指令顺序充分利用CPU指令流水线，常见的是重新排序读写指令。对常规内存进行优化的时候，这些优化是透明的，而且效率很好。由编译器优化或者硬件重新排序引起的问题的解决办法是在从硬件（或者其他处理器）的角度看必须以特定顺序执行的操作之间设置内存屏障（memory barrier），linux 提供了一个宏解决编译器的执行顺序问题。
void Barrier(void)
     这个函数通知编译器插入一个内存屏障，但对硬件无效，编译后的代码会把当前CPU寄存器中的所有修改过的数值存入内存，需要这些数据的时候再重新从内存中读出。
2、C语言关键字volatile
     C语言关键字volatile（注意它是用来修饰变量而不是上面介绍的__volatile__）表明某个变量的值可能在外部被改变，因此对这些变量的存取不能缓存到寄存器，每次使用时需要重新存取。该关键字在多线程环境下经常使用，因为在编写多线程的程序时，同一个变量可能被多个线程修改，而程序通过该变量同步各个线程，例如：
DWORD __stdcall threadFunc(LPVOID signal)
{
int* intSignal=reinterpret_cast(signal);
*intSignal=2;
while(*intSignal!=1)
sleep(1000);
return 0;
}
     该线程启动时将intSignal 置为2，然后循环等待直到intSignal 为1 时退出。显然intSignal的值必须在外部被改变，否则该线程不会退出。但是实际运行的时候该线程却不会退出，即使在外部将它的值改为1，看一下对应的伪汇编代码就明白了：
mov ax,signal
label:
if(ax!=1)
goto label
     对于C编译器来说，它并不知道这个值会被其他线程修改。自然就把它cache在寄存器里面。记住，C 编译器是没有线程概念的！这时候就需要用到volatile。volatile 的本意是指：这个值可能会在当前线程外部被改变。也就是说，我们要在threadFunc中的intSignal前面加上volatile关键字，这时候，编译器知道该变量的值会在外部改变，因此每次访问该变量时会重新读取，所作的循环变为如下面伪码所示：
label:
mov ax,signal
if(ax!=1)
goto label
3、Memory
      有了上面的知识就不难理解Memory修改描述符了，Memory描述符告知GCC：
1）不要将该段内嵌汇编指令与前面的指令重新排序；也就是在执行内嵌汇编代码之前，它前面的指令都执行完毕
2）不要将变量缓存到寄存器，因为这段代码可能会用到内存变量，而这些内存变量会以不可预知的方式发生改变，因此GCC插入必要的代码先将缓存到寄存器的变量值写回内存，如果后面又访问这些变量，需要重新访问内存。
     如果汇编指令修改了内存，但是GCC 本身却察觉不到，因为在输出部分没有描述，此时就需要在修改描述部分增加“memory”，告诉GCC 内存已经被修改，GCC 得知这个信息后，就会在这段指令之前，插入必要的指令将前面因为优化Cache 到寄存器中的变量值先写回内存，如果以后又要使用这些变量再重新读取。
     使用“volatile”也可以达到这个目的，但是我们在每个变量前增加该关键字，不如使用“memory”方便。

二

（http://baike.baidu.com/view/608706.htm百科上难得也有好文章）

volatile变量的几个例子

推荐一个定义为volatile的变量是说这变量可能会被意想不到地改变，这样，编译器就不会去假设这个变量的值了。精确地说就是，优化器在用到这个变量时必须每次都小心地重新读取这个变量的值，而不是使用保存在寄存器里的备份。下面是volatile变量的几个例子：  1). 并行设备的硬件寄存器（如：状态寄存器） 

2). 一个中断服务子程序中会访问到的非自动变量(Non-automatic variables)

3). 多线程应用中被几个任务共享的变量 

回答不出这个问题的人是不会被雇佣的。我认为这是区分C程序员和嵌入式系统程序员的最基本的问题。嵌入式系统程序员经常同硬件、中断、RTOS等等打交道，所用这些都要求volatile变量。不懂得volatile内容将会带来灾难。 

假设被面试者正确地回答了这是问题（嗯，怀疑是否会是这样），我将稍微深究一下，看一下这家伙是不是真正懂得volatile完全的重要性。 

1). 一个参数既可以是const还可以是volatile吗？解释为什么。 

2). 一个指针可以是volatile 吗？解释为什么。 

3). 下面的函数有什么错误： 

int square(volatile int *ptr)

{

return *ptr * *ptr;

}

下面是答案： 

1). 是的。一个例子是只读的状态寄存器。它是volatile因为它可能被意想不到地改变。它是const因为程序不应该试图去修改它。 

2). 是的。尽管这并不很常见。一个例子是当一个中断服务子程序修改一个指向一个buffer的指针时。 

3). 这段代码是个恶作剧。这段代码的目的是用来返指针*ptr指向值的平方，但是，由于*ptr指向一个volatile型参数，编译器将产生类似下面的代码： 

int square(volatile int *ptr)

{

int a,b;

a = *ptr;

b = *ptr;

return a * b;

}

由于*ptr的值可能被意想不到地改变，因此a和b可能是不同的。结果，这段代码可能返不是你所期望的平方值！正确的代码如下： 

long square(volatile int *ptr)

{

int a;

a = *ptr;

return a * a;

}

讲讲我的理解： （欢迎打板子...~~！）  关键在于两个地方： 

1. 编译器的优化 (请高手帮我看看下面的理解) 在本次线程内, 当读取一个变量时，为提高存取速度，编译器优化时有时会先把变量读取到一个寄存器中；以后，再取变量值时，就直接从寄存器中取值；  当变量值在本线程里改变时，会同时把变量的新值copy到该寄存器中，以便保持一致  当变量在因别的线程等而改变了值，该寄存器的值不会相应改变，从而造成应用程序读取的值和实际的变量值不一致  当该寄存器在因别的线程等而改变了值，原变量的值不会改变，从而造成应用程序读取的值和实际的变量值不一致  举一个不太准确的例子：  发薪资时，会计每次都把员工叫来登记他们的银行卡号；一次会计为了省事，没有即时登记，用了以前登记的银行卡号；刚好一个员工的银行卡丢了，已挂失该银行卡号；从而造成该员工领不到工资  员工 －－ 原始变量地址  银行卡号 －－ 原始变量在寄存器的备份  2. 在什么情况下会出现(如1楼所说)

1). 并行设备的硬件寄存器（如：状态寄存器） 

2). 一个中断服务子程序中会访问到的非自动变量(Non-automatic variables)

3)多线程应用中被几个任务共享的变量 

补充： volatile应该解释为“直接存取原始内存地址”比较合适，“易变的”这种解释简直有点误导人；  “易变”是因为外在因素引起的，象多线程，中断等，并不是因为用volatile修饰了的变量就是“易变”了，假如没有外因，即使用volatile定义，它也不会变化；  而用volatile定义之后，其实这个变量就不会因外因而变化了，可以放心使用了； 大家看看前面那种解释（易变的）是不是在误导人 

－－－－－－－－－－－－简明示例如下：－－－－－－－－－－－－－－－－－

volatile关键字是一种类型修饰符，用它声明的类型变量表示可以被某些编译器未知的因素更改，比如：操作系统、硬件或者其它线程等。遇到这个关键字声明的变量，编译器对访问该变量的代码就不再进行优化，从而可以提供对特殊地址的稳定访问。  使用该关键字的例子如下： 

int volatile nVint;

>>>>当要求使用volatile 声明的变量的值的时候，系统总是重新从它所在的内存读取数据，即使它前面的指令刚刚从该处读取过数据。而且读取的数据立刻被保存。  例如： 

volatile int i=10; int a = i; ...

//其他代码，并未明确告诉编译器，对i进行过操作 

int b = i;

>>>>volatile 指出 i是随时可能发生变化的，每次使用它的时候必须从i的地址中读取，因而编译器生成的汇编代码会重新从i的地址读取数据放在b中。而优化做法是，由于编译器发现两次从i读数据的代码之间的代码没有对i进行过操作，它会自动把上次读的数据放在b中。而不是重新从i里面读。这样一来，如果i是一个寄存器变量或者表示一个端口数据就容易出错，所以说volatile可以保证对特殊地址的稳定访问。  >>>>注意，在vc6中，一般调试模式没有进行代码优化，所以这个关键字的作用看不出来。下面通过插入汇编代码，测试有无volatile关键字，对程序最终代码的影响：  >>>>首先，用classwizard建一个win32 console工程，插入一个voltest.cpp文件，输入下面的代码： 

>>

#i nclude

void main()

{

int i=10;

int a = i;

printf("i= %d",a);

//下面汇编语句的作用就是改变内存中i的值，但是又不让编译器知道  __asm

{

mov dword ptr [ebp-4], 20h

}

int b = i;

printf("i= %d",b);

}

然后，在调试版本模式运行程序，输出结果如下： 

i = 10

i = 32

然后，在release版本模式运行程序，输出结果如下： 

i = 10 i = 10

输出的结果明显表明，release模式下，编译器对代码进行了优化，第二次没有输出正确的i值。下面，我们把 i的声明加上volatile关键字，看看有什么变化： 

#i nclude

void main()

{

volatile int i=10;

int a = i;

printf("i= %d",a);

__asm {

mov dword ptr [ebp-4], 20h

}

int b = i;

printf("i= %d",b);

}

分别在调试版本和release版本运行程序，输出都是：  i = 10 i = 32 这说明这个关键字发挥了它的作用！ 

－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－  volatile对应的变量可能在你的程序本身不知道的情况下发生改变  比如多线程的程序，共同访问的内存当中，多个程序都可以操纵这个变量  你自己的程序，是无法判定何时这个变量会发生变化  还比如，他和一个外部设备的某个状态对应，当外部设备发生操作的时候，通过驱动程序和中断事件，系统改变了这个变量的数值，而你的程序并不知道。  对于volatile类型的变量，系统每次用到他的时候都是直接从对应的内存当中提取，而不会利用cache当中的原有数值，以适应它的未知何时会发生的变化，系统对这种变量的处理不会做优化——

显然也是因为它的数值随时都可能变化的情况。  --------------------------------------------------------------------------------

典型的例子 

for ( int i=0; i<100000; i++);

这个语句用来测试空循环的速度的,但是编译器肯定要把它优化掉，根本就不执行  如果你写成 

for ( volatile int i=0; i<100000; i++);

它就会执行了 

volatile的本意是“易变的”由于访问寄存器的速度要快过RAM，所以编译器一般都会作减少存取外部RAM的优化。比如： 

static int i=0;

int main(void)

{ ...

while (1)

{

if (i)

dosomething();

}

}

/* Interrupt service routine. */

void ISR_2(void)

{

i=1;

}

程序的本意是希望ISR_2中断产生时，在main当中调用dosomething函数，但是，由于编译器判断在main函数里面没有修改过i，因此可能只执行一次对从i到某寄存器的读操作，然后每次if判断都只使用这个寄存器里面的“i副本”，导致dosomething永远也不会被调用。如果将变量加上volatile修饰，则编译器保证对此变量的读写操作都不会被优化（肯定执行）。此例中i也应该如此说明。

volatile一般使用的地方

一般说来，volatile用在如下的几个地方： 

1、中断服务程序中修改的供其它程序检测的变量需要加volatile； 

2、多任务环境下各任务间共享的标志应该加volatile； 

3、存储器映射的硬件寄存器通常也要加volatile说明，因为每次对它的读写都可能由不同意义； 

另外，以上这几种情况经常还要同时考虑数据的完整性（相互关联的几个标志读了一半被打断了重写），在1中可以通过关中断来实 现，2中可以禁止任务调度，3中则只能依靠硬件的良好设计了。

volatile代码说明

下面我们来一个个说明。  考虑下面的代码： 

class Gadget

{

public:

void Wait()

{

while (!flag_)

{

Sleep(1000); // sleeps for 1000 milliseconds

}

}

void Wakeup()

{

flag_ = true;

} ...

private:

bool flag_;

};

上面代码中Gadget::Wait的目的是每过一秒钟去检查一下flag_成员变量，当flag_被另一个线程设为true时，该函数才会返回。至少这是程序作者的意图，然而，这个Wait函数是错误的。  假设编译器发现Sleep(1000)是调用一个外部的库函数，它不会改变成员变量flag_，那么编译器就可以断定它可以把flag_缓存在寄存器中，以后可以访问该寄存器来代替访问较慢的主板上的内存。这对于单线程代码来说是一个很好的优化，但是在现在这种情况下，它破坏了程序的正确性：当你调用了某个Gadget的Wait函数后，即使另一个线程调用了Wakeup，Wait还是会一直循环下去。这是因为flag_的改变没有反映到缓存它的寄存器中去。编译器的优化未免有点太……乐观了。  在大多数情况下，把变量缓存在寄存器中是一个非常有价值的优化方法，如果不用的话很可惜。C和C++给你提供了显式禁用这种缓存优化的机会。如果你声明变量是使用了volatile修饰符，编译器就不会把这个变量缓存在寄存器里——每次访问都将去存取变量在内存中的实际位置。这样你要对Gadget的Wait/Wakeup做的修改就是给flag_加上正确的修饰： 

class Gadget

    {

public: ..

. as above ...

private:

volatile bool flag_;

};

(注：部分代码来自于Java)

三

（http://zhouruijun163.blog.163.com/blog/static/107715620107274932531/）

顺带记录下Singleton在多线程中使用的DoubleCheck。

在多线程环境下，使用Singleton模式很重要的一点就是要保证用Double Check机制保证线程安全。 很多时候, 我们通常需要使用singleton模式来保证对象实例的唯一性。通常我们是这么写的：

 class Singleton{

private:

static Singleton *instance;public:

在多线程环境下，使用Singleton模式很重要的一点就是要保证用Double Check机制保证线程安全。

很多时候, 我们通常需要使用singleton模式来保证对象实例的唯一性。通常我们是这么写的：

class Singleton
{
private:
    static Singleton *instance;
public:
    static Singleton* getInstance();
private:
    Singleton();//将构造函数设为Private以保证只能通过getInstance获取对象实例.
};
Singleton *Singleton::instance = NULL;
//版本一:
Singleton* Singleton::getInstance()
{

    if(NULL == instance) //检查是否已经生成对象了
    {

    //对象构造区域[qu yu]
        instance = new Singleton();
    }
    return instance;
}
Singleton::Singleton()
{
//initializing...
}

然而，如果在多线程环境下，Singleton::getInstance() 同时被多个线程调用，也许第一个线程在通过if(NULL == instance)语句后被中断挂起，这时其它线程也会进入该区域，这时instance = new Singleton();语句就会被调用两次或者更多，违背了singleton模式的初衷。为了保证对象构造区域为一个互斥区间，这时我们考虑引入mutex互斥信号变量。比如：

//版本2:
Singleton* Singleton::getInstance()
{
    lock(mutex);

    if(NULL == instance) ////检查是否已经生成对象了
    {
        //对象构造区域[qu yu]

        instance = new Singleton();
    }
    release(mutex);
    return instance;
}

现在看起来已经足够安全了，只可能同时有一个线程进入对象构造区域[qu yu]。

此时出现了一个性能问题，每次调用getInstance方法[fang fa]时都需要执行lock(mutex)与release(mutex)的操作，而事实上第一次调用之后，instance就不是NULL值了。

这时候我们就设计一个Double Check的机制：

//版本三:
Singleton* Singleton::getInstance()
{
    if(NULL == instance)
    {
    //对象实例第一次被创建后, 没有线程会进入该区域了, 因此该版本的性能与版本一几乎相同，且安全性与版本二一样好
    lock(mutex);
    if(NULL == instance) //检查对象是否已经存在
    {
        //对象构造区域
        instance = new Singleton();
    }
    release(mutex);
    }
    return instance;
}

四

总的来说，volatile实际应用中，需要注意的是编译器优化的陷阱，经验来自于不断的实践，暂时不写TestProj，继续啃UE代码，@todo。。。