使用临界段实现优化的进程间同步对象-原理和实现

<meta content="MSHTML 6.00.2900.3199" name="GENERATOR"> <style></style>2001年09月28日 10:12:00

使用临界段实现优化的进程间同步对象-原理和实现

by Jeffrey.Richter

vcbear 热情讲解

实现自己的同步对象?需要吗?

不需要吗?

...

只是跟你研究一下而已.

算了吧我只是个爱灌水的家伙,很久没有写代码了,闲来无事,灌灌水还不行吗?

　

1.概述:

在多进程的环境里,需要对线程进行同步.常用的同步对象有临界段(Critical Section),互斥量(Mutex),信号量(Semaphore),事件(Event)等,除了临界段,都是内核对象。

在同步技术中，临界段(Critical Section)是最容易掌握的,而且,和通过等待和释放内核态互斥对象实现同步的方式相比,临界段的速度明显胜出.但是临界段有一个缺陷,WIN32文档已经说明了临界段是不能跨进程的,就是说临界段不能用在多进程间的线程同步,只能用于单个进程内部的线程同步.

因为临界段只是一个很简单的数据结构体,在别的进程的进程空间里是无效的。就算是把它放到一个可以多进程共享的内存映象文件里,也还是无法工作.

有甚么方法可以跨进程的实现线程的高速同步吗?

2.原理和实现

2.1为什么临界段快? 是“真的”快吗?

确实,临界段要比其他的核心态同步对象要快，因为EnterCriticalSection和LeaveCriticalSection这两个函数从InterLockedXXX系列函数中得到不少好处(下面的代码演示了临界段是如何使用InterLockedXXX函数的)。InterLockedXXX系列函数完全运行于用户态空间，根本不需要从用户态到核心态

之间的切换。所以，进入和离开一个临界段一般只需要10个左右的CPU执行指令。而当调用WaitForSingleObject之流的函数时，因为使用了内核对象,线程被强制的在用户态和核心态之间变换。在x86处理器上，这种变换一般需要600个CPU指令。看到这里面的巨大差距了把。

话说回来，临界段是不是真正的“快”？实际上，临界段只在共享资源没有冲突的时候是快的。当一个线程试图进入正在被另外一个线程拥有的临界段，即发生竞争冲突时,临界段还是等价于一个event核心态对象，一样的需要耗时约600个CPU指令。事实上,因为这样的竞争情况相对一般的运行情况来说是很少的(除非人为)，所以在大部分的时间里（没有竞争冲突的时候），临界段的使用根本不牵涉内核同步,所以是高速的，只需要10个CPU的指令。(bear说:明白了吧,纯属玩概率,Ms的小花招)

2.3进程边界怎么办？

“临界段等价于一个event核心态对象”是什么意思？

看看临界段结构的定义先

typedef struct _RTL_CRITICAL_SECTION {

PRTL_CRITICAL_SECTION_DEBUG DebugInfo;

//

// The following three fields control entering and exiting the critical

// section for the resource

//

LONG LockCount;

LONG RecursionCount;

HANDLE OwningThread; // from the thread's ClientId-<uniquethread><p>HANDLE LockSemaphore;</p> <p>DWORD SpinCount;</p> <p>} RTL_CRITICAL_SECTION, *PRTL_CRITICAL_SECTION;</p> <p>#typedef RTL_CRITICAL_SECTION CRITICL_SECTION</p> <p>在CRITICAL_SECTION 数据结构里，有一个Event内核对象的句柄(那个undocument的结构体成员LockSemaphore，包含的实际是一个event的句柄， 而不是一个信号量semaphore）。正如我们所知，内核对象是系统全局的，但是该句柄是进程所有的，而不是系统全局的。所以，就算把一个临界段结构直接放到共享的内存映象里，临界段也无法起作用，因为LockSemaphore里句柄值只对一个进程有效，对于别的进程是没有意义的。 在一般的进程同步中，进程要使用一个存在于别的进程里的Event 对象，必须调用OpenEvent或CreaetEvent函数来得到进程可以使用的句柄值。</p> <p>CRITICAL_SECTION结构里其他的变量是临界段工作所依赖的元素，Ms也“警告”程序员不要自己改动该结构体里变量的值。是怎么实现的呢？看下一步.</p> <p>2.4 COptex，优化的同步对象类</p> <p>Jeffrey Richter曾经写过一个自己的临界段，现在，他把他的临界段改良了一下，把它封装成一个COptex类。成员函数TryEnter拥有NT4里介绍的函数TryEnterCriticalSection的功能，这个函数尝试进入临界段，如果失败立刻返回，不会挂起线程,并且支持Spin计数.这个功能在NT4/SP3中被InitializeCriticalSectionAndSpinCount 和SetCriticalSectionSpinCount实现。Spin计数在多处理器系统和高竞争冲突情况下是很有用的，在进入WaitForXXX核心态之前，临界段根据设定的Spin计数进行多次TryEnterCtriticalSection,然后才进行堵塞。想一下，TryEnterCriticalSection才使用10个左右的周期，如果在Spin计数消耗完之前，冲突消失，临界段对象是空闲的，那么再用10个CPU周期就可以在用户态进入临界段了，不用切换到核心态.</p> <p>(bear说:为了避免这个"核心态",Ms自己也是费劲脑汁呀.看出来了吧，优化的原则：在需要的时候才进入核心态。否则，在用户态进行同步)</p> <p>以下是COptex代码。<a href="http://msdn.microsoft.com/library/periodic/period98/X-ProcessOptex.exe">原代码下载</a></p> <p>Figure 2: COptex</p> <p>Optex.h</p> <p>/******************************************************************************</p> <p>Module name: Optex.h</p> <p>Written by: Jeffrey Richter</p> <p>Purpose: Defines the COptex (optimized mutex) synchronization object</p> <p>******************************************************************************/</p> <p>#pragma once</p> <p>///////////////////////////////////////////////////////////////////////////////</p> <p>class COptex {</p> <p>public:</p> <p>COptex(LPCSTR pszName, DWORD dwSpinCount = 4000);</p> <p>COptex(LPCWSTR pszName, DWORD dwSpinCount = 4000);</p> <p>~COptex();</p> <p>void SetSpinCount(DWORD dwSpinCount);</p> <p>void Enter();</p> <p>BOOL TryEnter();</p> <p>void Leave();</p> <p>private:</p> <p>typedef struct {</p> <p>DWORD m_dwSpinCount;</p> <p>long m_lLockCount;</p> <p>DWORD m_dwThreadId;</p> <p>long m_lRecurseCount;</p> <p>} SHAREDINFO, *PSHAREDINFO;</p> <p>BOOL m_fUniprocessorHost;</p> <p>HANDLE m_hevt;</p> <p>HANDLE m_hfm;</p> <p>PSHAREDINFO m_pSharedInfo;</p> <p>private:</p> <p>BOOL CommonConstructor(PVOID pszName, BOOL fUnicode, DWORD dwSpinCount);</p> <p>};</p> <p>///////////////////////////////////////////////////////////////////////////////</p> <p>inline COptex::COptex(LPCSTR pszName, DWORD dwSpinCount) {</p> <p>CommonConstructor((PVOID) pszName, FALSE, dwSpinCount);</p> <p>}</p> <p>///////////////////////////////////////////////////////////////////////////////</p> <p>inline COptex::COptex(LPCWSTR pszName, DWORD dwSpinCount) {</p> <p>CommonConstructor((PVOID) pszName, TRUE, dwSpinCount);</p> <p>}</p> <p>Optex.cpp</p> <p>/******************************************************************************</p> <p>Module name: Optex.cpp</p> <p>Written by: Jeffrey Richter</p> <p>Purpose: Implements the COptex (optimized mutex) synchronization object</p> <p>******************************************************************************/</p> <p>#include &gt;windows.h </p> <p>#include "Optex.h"</p> <p>///////////////////////////////////////////////////////////////////////////////</p> <p>BOOL COptex::CommonConstructor(PVOID pszName, BOOL fUnicode, DWORD dwSpinCount) </p> <p>{</p> <p>m_hevt = m_hfm = NULL;</p> <p>m_pSharedInfo = NULL;</p> <p>SYSTEM_INFO sinf;</p> <p>GetSystemInfo(&amp;sinf);</p> <p>m_fUniprocessorHost = (sinf.dwNumberOfProcessors == 1);</p> <p>char szNameA[100];</p> <p>if (fUnicode) { // Convert Unicode name to ANSI</p> <p>wsprintfA(szNameA, "%S", pszName);</p> <p>pszName = (PVOID) szNameA;</p> <p>}</p> <p>char sz[100];</p> <p>wsprintfA(sz, "JMR_Optex_Event_%s", pszName);</p> <p>m_hevt = CreateEventA(NULL, FALSE, FALSE, sz);</p> <p>if (m_hevt != NULL) {</p> <p>wsprintfA(sz, "JMR_Optex_MMF_%s", pszName);</p> <p>m_hfm = CreateFileMappingA(NULL, NULL, PAGE_READWRITE, 0, sizeof(*m_pSharedInfo), sz);</p> <p>if (m_hfm != NULL) {</p> <p>m_pSharedInfo = (PSHAREDINFO) MapViewOfFile(m_hfm, FILE_MAP_WRITE, </p> <p>0, 0, 0);</p> <p>// Note: SHAREDINFO's m_lLockCount, m_dwThreadId, and m_lRecurseCount</p> <p>// members need to be initialized to 0. Fortunately, a new pagefile </p> <p>// MMF sets all of its data to 0 when created. This saves us from </p> <p>// some thread synchronization work.</p> <p>if (m_pSharedInfo != NULL) </p> <p>SetSpinCount(dwSpinCount);</p> <p>}</p> <p>}</p> <p>return((m_hevt != NULL) &amp;&amp; (m_hfm != NULL) &amp;&amp; (m_pSharedInfo != NULL));</p> <p>}</p> <p>///////////////////////////////////////////////////////////////////////////////</p> <p>COptex::~COptex() {</p> <p>#ifdef _DEBUG</p> <p>if (m_pSharedInfo-<m_dwthreadid debugbreak><p>#endif</p> <p>UnmapViewOfFile(m_pSharedInfo);</p> <p>CloseHandle(m_hfm);</p> <p>CloseHandle(m_hevt);</p> <p>}</p> <p>///////////////////////////////////////////////////////////////////////////////</p> <p>void COptex::SetSpinCount(DWORD dwSpinCount) {</p> <p>if (!m_fUniprocessorHost)</p> <p>InterlockedExchange((PLONG) &amp;m_pSharedInfo-<m_dwspincount dwspincount><p>}</p> <p>///////////////////////////////////////////////////////////////////////////////</p> <p>void COptex::Enter() {</p> <p>// Spin, trying to get the Optex</p> <p>if (TryEnter()) return;</p> <p>DWORD dwThreadId = GetCurrentThreadId(); // The calling thread's ID</p> <p>if (InterlockedIncrement(&amp;m_pSharedInfo-<m_llockcount><p>// Optex is unowned, let this thread own it once</p> <p>InterlockedExchange((PLONG) &amp;m_pSharedInfo-<m_dwthreadid dwthreadid><p>m_pSharedInfo-<m_lrecursecount><p>} else {</p> <p>// Optex is owned by a thread</p> <p>if (m_pSharedInfo-<m_dwthreadid dwthreadid><p>// Optex is owned by this thread, own it again</p> <p>m_pSharedInfo-<m_lrecursecount><p>} else {</p> <p>// Optex is owned by another thread</p> <p>// Wait for the Owning thread to release the Optex</p> <p>WaitForSingleObject(m_hevt, INFINITE);</p> <p>// We got ownership of the Optex</p> <p>InterlockedExchange((PLONG) &amp;m_pSharedInfo-<m_dwthreadid><p>dwThreadId); // We own it now</p> <p>m_pSharedInfo-<m_lrecursecount we own it once><p>}</p> <p>}</p> <p>}</p> <p>///////////////////////////////////////////////////////////////////////////////</p> <p>　</p> <p>BOOL COptex::TryEnter() {</p> <p>DWORD dwThreadId = GetCurrentThreadId(); // The calling thread's ID</p> <p>// If the lock count is zero, the Optex is unowned and</p> <p>// this thread can become the owner of it now.</p> <p>BOOL fThisThreadOwnsTheOptex = FALSE;</p> <p>DWORD dwSpinCount = m_pSharedInfo-<m_dwspincount><p>do {</p> <p>fThisThreadOwnsTheOptex = (0 == (DWORD) </p> <p>InterlockedCompareExchange((PVOID*) &amp;m_pSharedInfo-<m_llockcount><p>(PVOID) 1, (PVOID) 0)); </p> <p>if (fThisThreadOwnsTheOptex) {</p> <p>// We now own the Optex</p> <p>InterlockedExchange((PLONG) &amp;m_pSharedInfo-<m_dwthreadid><p>dwThreadId); // We own it</p> <p>m_pSharedInfo-<m_lrecursecount we own it once><p>} else {</p> <p>// Some thread owns the Optex</p> <p>if (m_pSharedInfo-<m_dwthreadid dwthreadid><p>// We already own the Optex</p> <p>InterlockedIncrement(&amp;m_pSharedInfo-<m_llockcount><p>m_pSharedInfo-<m_lrecursecount we own it again><p>fThisThreadOwnsTheOptex = TRUE; // Return that we own the Optex</p> <p>}</p> <p>}</p> <p>} while (!fThisThreadOwnsTheOptex &amp;&amp; (dwSpinCount-- </p> <p>// Return whether or not this thread owns the Optex</p> <p>return(fThisThreadOwnsTheOptex);</p> <p>}</p> <p>　</p> <p>///////////////////////////////////////////////////////////////////////////////</p> <p>　</p> <p>void COptex::Leave() {</p> <p>#ifdef _DEBUG</p> <p>if (m_pSharedInfo-<m_dwthreadid getcurrentthreadid><p>DebugBreak();</p> <p>#endif</p> <p>if (--m_pSharedInfo-<m_lrecursecount><p>// We still own the Optex</p> <p>InterlockedDecrement(&amp;m_pSharedInfo-<m_llockcount><p>} else {</p> <p>// We don't own the Optex</p> <p>InterlockedExchange((PLONG) &amp;m_pSharedInfo-<m_dwthreadid><p>if (InterlockedDecrement(&amp;m_pSharedInfo-<m_llockcount><p>// Other threads are waiting, wake one of them</p> <p>SetEvent(m_hevt);</p> <p>}</p> <p>}</p> <p>}</p> <p>　</p> <p>///////////////////////////////// End of File /////////////////////////////////</p> <p>使用这个COptex是很简单的事情,只要构造用下面这两种构造函数一个C++类的实例即可.</p> <p>构造函数</p> <p>COptex(LPCSTR pszName, DWORD dwSpinCount = 4000);</p> <p>COptex(LPCWSTR pszName, DWORD dwSpinCount = 4000);</p> <p>他们都调用了</p> <p>BOOL CommonConstructor(PVOID pszName, BOOL fUnicode, DWORD dwSpinCount);</p> <p>构造一个COptex对象必须给它一个字符串型的名字，在突破进程边界的时候这是必须的，只有这个名字能提供共享访问.构造函数支持ANSI或Unicode的名字。</p> <p>当另外一个进程使用相同的名字构造一个COptex对象，构造函数如何发现已经存在的COptex对象?在CommonConstructor代码中用CreateEvent尝试创建一个命名Event对象,如果这个名字的Event对象已经存在,那么,得到该对象的句柄,并且GetLastError可以得到ERROR_ALREADY_EXISTS.如果不存在则创建一个.如果创建失败,则得到的句柄为NULL.</p> <p>同样的，可以得到一个共享的内存映象文件的句柄.</p> <p>构造成功后，在需要同步时，根据情况简单的执行相应的进程间同步操作。构造函数的第二个参数用来指定Spin计数,默认是4000(这是操作系统序列化堆Heap的函数所使用的数量.操作系统在分配和释放内存的时候,要序列化进程的堆,这时也要用到临界段)</p> <p>COptex类的其他函数和Win32函数是一一对应的.熟悉同步对象的程序员应该很容易理解.</p> <p>COptex是如何工作的呢?实际上,一个COptex包含两个数据块(Data blocks):一个本地的,私有的;另一个是全局的,共享的.一个COptex对象构造之后,本地数据块包含了COptex的成员变量：m_hevt变量初始化为一个命名事件对象句柄；m_hfm变量初始化为一个内存映象文件对象句柄.既然这些句柄代表的对象是命名的，那么,他们可以在进程间共享。注意,是"对象"可以共享,而不是"对象的句柄".每个进程内的COptex对象都必须保持这些句柄在本进程内的值.</p> <p>m_pShareInf成员指向一个内存映象文件,全局数据块在这个内存映象文件里,以指定的共享名存在. SHAREDINFO结构是内存映象数据的组织方式,该结构在COptex类里定义,和CRITCIAL_SECTION的结构非常相似.</p> <p>typedef struct {</p> <p>DWORD m_dwSpinCount;</p> <p>long m_lLockCount;</p> <p>DWORD m_dwThreadId;</p> <p>long m_lRecurseCount;report-2001-03-07.htm</p> <p>} SHAREDINFO, *PSHAREDINFO;</p> <p>m_dwSpinCount : spin计数</p> <p>m_lLockCount : 锁定计数</p> <p>m_dwThreadID : 拥有该临界段的线程ID</p> <p>m_lRecurseCount:本线程拥有该临界段的计数</p> <p>好了,仔细看看代码吧,大师风范呀.注意一下在进行同步时,关于是否同一线程,关于LockCount的值的一系列的判断,以及InterLockedXXX系列函数的使用,具体用法查MSDN.</p> <p>bear最喜欢这样的代码了,简单明了,思路清晰,原理超值,看完了只想大喝一声"又学一招,爽!"</p> <p>bear也写累了 ,收工:).</p>2001.3.2 <p></p> <p>随意转载,只要不去掉Jeffrey的名字,还有bear的:D</p> <p>翻译有错,请找[email protected]或留言,不懂Win32编程看下面:</p> <p>Have a question about programming in Win32? Contact Jeffrey Richter at http://www.jeffreyrichter.com/</p> <p>From the January 1998 issue of Microsoft Systems Journal. </p>&gt;!--article end--<br><p id="TBPingURL">Trackback: http://tb.blog.csdn.net/TrackBack.aspx?PostId=3540</p> <br></m_llockcount></p></m_dwthreadid></p></m_llockcount></p></m_lrecursecount></p></m_dwthreadid></p></m_lrecursecount></p></m_llockcount></p></m_dwthreadid></p></m_lrecursecount></p></m_dwthreadid></p></m_llockcount></p></m_dwspincount></p></m_lrecursecount></p></m_dwthreadid></p></m_lrecursecount></p></m_dwthreadid></p></m_lrecursecount></p></m_dwthreadid></p></m_llockcount></p></m_dwspincount></p></m_dwthreadid></p></uniquethread>