1 、概念
       Scott Meyers 在《 More Effective C++ 》中举了个例子,不知你是否还记得?在你还在上学的时候,你的父母要你不要看电视,而去复习功课,于是你把自己关在房间里,做出一副正在复习功课的样子,其实你在干着别的诸如给班上的某位女生写情书之类的事,而一旦你的父母出来在你房间要检查你是否在复习时,你才真正捡起课本看书。这就是 拖延战术 ,直到你非要做的时候才去做。
       当然,这种事情在现实生活中时往往会出事,但其在编程世界中摇身一变,就成为了最有用的技术,正如 C++ 中的可以随处声明变量的特点一样, Scott Meyers 推荐我们,在真正需要一个存储空间时才去声明变量(分配内存),这样会得到程序在运行时最小的内存花销。执行到那才会去做分配内存这种比较耗时的工作,这会给我们的程序在运行时有比较好的性能。必竟, 20% 的程序运行了 80% 的时间。
       当然,拖延战术还并不只是这样一种类型,这种技术被我们广泛地应用着,特别是在操作系统当中,当一个程序运行结束时,操作系统并不会急着把其清除出内存,原因是有可能程序还会马上再运行一次(从磁盘把程序装入到内存是个很慢的过程),而只有当内存不够用了,才会把这些还驻留内存的程序清出。
       写时才拷贝( Copy-On-Write )技术,就是编程界 懒惰行为 ”—— 拖延战术的产物。举个例子,比如我们有个程序要写文件,不断地根据网络传来的数据写,如果每一次 fwrite 或是 fprintf 都要进行一个磁盘的 I/O 操作的话,都简直就是性能上巨大的损失,因此通常的做法是,每次写文件操作都写在特定大小的一块内存中(磁盘缓存),只有当我们关闭文件时,才写到磁盘上(这就是为什么如果文件不关闭,所写的东西会丢失的原因)。更有甚者是文件关闭时都不写磁盘,而一直等到关机或是内存不够时才写磁盘, Unix 就是这样一个系统,如果非正常退出,那么数据就会丢失,文件就会损坏。 为了性能我们需要冒这样大的风险,还好我们的程序是不会忙得忘了还有一块数据需要写到磁盘上的,所以这种做法,还是很有必要的。

2
标准 C++ std::string Copy-On-Write
      在我们经常使用的 STL 标准模板库中的 string 类,也是一个具有写时才拷贝技术的类。 C++ 曾在性能问题上被广泛地质疑和指责过,为了提高性能, STL 中的许多类都采用了 Copy-On-Write 技术。这种偷懒的行为的确使使用 STL 的程序有着比较高要性能。
这里,我想从 C++ 类或是设计模式的角度为各位揭开 Copy-On-Write 技术在 string 中实现的面纱,以供各位在用 C++ 进行类库设计时做一点参考。
在讲述这项技术之前,我想简单地说明一下 string 类内存分配的概念。通过常, string 类中必有一个私有成员,其是一个 char* ,用户记录从堆上分配内存的地址,其在构造时分配内存,在析构时释放内存。因为是从堆上分配内存,所以 string 类在维护这块内存上是格外小心的, string 类在返回这块内存地址时,只返回 const char* ,也就是只读的,如果你要写,你只能通过 string 提供的方法进行数据的改写。

2.1
特性
      由表及里,由感性到理性,我们先来看一看 string 类的 Copy-On-Write 的表面特征。让我们写下下面的一段程序:
#include
#include
using namespace std;
main()
{
     string str1 = "hello world";
     string str2 = str1;
     printf ("Sharing the memory:\n");
     printf ("\tstr1's address: %x\n", str1.c_str() );
     printf ("\tstr2's address: %x\n", str2.c_str() );     
    str1[1]='q';
     str2[1]='w';
     printf ("After Copy-On-Write:\n");
     printf ("\tstr1's address: %x\n", str1.c_str() );
     printf ("\tstr2's address: %x\n", str2.c_str() );
     return 0;
}       
      这个程序的意图就是让第二个 string 通过第一个 string 构造,然后打印出其存放数据的内存地址,然后分别修改 str1 str2 的内容,再查一下其存放内存的地址。程序的输出是这样的(我在 VC6.0 g++ 2.95 都得到了同样的结果):
> g++ -o stringTest stringTest.cpp
> ./stringTest
Sharing the memory:
    str1's address: 343be9
    str2's address: 343be9
After Copy-On-Write:
    str1's address: 3407a9
    str2's address: 343be9      
从结果中我们可以看到,在开始的两个语句后, str1 str2 存放数据的地址是一样的,而在修改内容后, str1 的地址发生了变化,而 str2 的地址还是原来的。从这个例子,我们可以看到 string 类的 Copy-On-Write 技术。

2.2
深入
      在深入这前,通过上述的演示,我们应该知道在 string 类中,要实现写时才拷贝,需要解决两个问题,一个是内存共享,一个是 Copy-On-Wirte ,这两个主题会让我们产生许多疑问,还是让我们带着这样几个问题来学习吧:
1
Copy-On-Write 的原理是什么?
2
string 类在什么情况下才共享内存的?
3
string 类在什么情况下触发写时才拷贝( Copy-On-Write ?
4
Copy-On-Write 时,发生了什么?
5
Copy-On-Write 的具体实现是怎么样的?
      喔,你说只要看一看 STL stirng 的源码你就可以找到答案了。当然,当然,我也是参考了 string 的父模板类 basic_string 的源码。但是,如果你感到看 STL 的源码就好像看机器码,并严重打击你对 C++ 自信心,乃至产生了自己是否懂 C++ 的疑问,如果你有这样的感觉,那么还是继续往下看我的这篇文章吧。
OK
,让我们一个问题一个问题地探讨吧,慢慢地所有的技术细节都会浮出水面的。

2.3
Copy-On-Write 的原理是什么?

      有一定经验的程序员一定知道, Copy-On-Write 一定使用了 引用计数 ,是的,必然有一变量类似于 RefCnt 。当第一个类构造时, string 的构造函数会根据传入的参数从堆上分配内存,当有其它类需要这块内存时,这个计数为自动累加,当有类析构时,这个计数会减一,直到最后一个类析构时,此时的 RefCnt 1 或是 0 ,此时,程序才会真正的 Free 这块从堆上分配的内存。
是的,引用计数就是 string 类中写时才拷贝的原理!
      不过,问题又来了,这个 RefCnt 该存在在哪里呢?如果存放在 string 类中,那么每个 string 的实例都有各自的一套,根本不能共有一个 RefCnt ,如果是声明成全局变量,或是静态成员,那就是所有的 string 类共享一个了,这也不行,我们需要的是一个 民主和集中 的一个解决方法。这是如何做到的呢?呵呵,人生就是一个糊涂后去探知,知道后和又糊涂的循环过程。别急别急,在后面我会给你一一道来的。

2.3.1
string 类在什么情况下才共享内存的?
      这个问题的答案应该是明显的,根据常理和逻辑,如果一个类要用另一个类的数据,那就可以共享被使用类的内存了。这是很合理的,如果你不用我的,那就不用共享,只有你使用我的,才发生共享。
      使用别的类的数据时,无非有两种情况, 1 )以别的类构造自己, 2 )以别的类赋值。第一种情况时会触发拷贝构造函数,第二种情况会触发赋值操作符。这两种情况我们都可以在类中实现其对应的方法。对于第一种情况,只需要在 string 类的拷贝构造函数中做点处理,让其引用计数累加;同样,对于第二种情况,只需要重载 string 类的赋值操作符,同样在其中加上一点处理。
      唠叨几句:
1
)构造和赋值的差别
对于前面那个例程中的这两句:
     string str1 = "hello world";
     string str2 = str1;
不要以为有 “=” 就是赋值操作,其实,这两条语句等价于:
     string str1 ("hello world");   //
调用的是构造函数
     string str2 (str1);         //
调用的是拷贝构造函数
如果 str2 是下面的这样情况:
string str2;     //
调用参数默认为空串的构造函数: string str2(“”);
str2 = str1;   //
调用 str2 的赋值操作: str2.operator=(str1);
2)
另一种情况
     char tmp[]=”hello world”;
     string str1 = tmp;
     string str2 = tmp;
这种情况下会触发内存的共享吗?想当然的,应该要共享。可是根据我们前面所说的共享内存的情况,两个 string 类的声明和初始语句并不符合我前述的两种情况,所以其并不发生内存共享。而且, C++ 现有特性也无法让我们做到对这种情况进行类的内存共享。
     
2.3.2
string 类在什么情况下触发写时才拷贝( Copy-On-Write ?
      哦,什么时候会发现写时才拷贝?很显然,当然是在共享同一块内存的类发生内容改变时,才会发生 Copy-On-Write 。比如 string 类的 [] = += + 、操作符赋值,还有一些 string 类中诸如 insert replace append 等成员函数。
      修改数据才会触发 Copy-On-Write ,不修改当然就不会改啦。这就是托延战术的真谛,非到要做的时候才去做。

2.3.3
Copy-On-Write 时,发生了什么?
      我们可能根据那个访问计数来决定是否需要拷贝,参看下面的代码:
If ( RefCnt>0 ) {
  char* tmp = (char*) malloc(strlen(_Ptr)+1);
  strcpy(tmp, _Ptr);
  _Ptr = tmp;
}
      上面的代码是一个假想的拷贝方法,如果有别的类在引用(检查引用计数来获知)这块内存,那么就需要把更改类进行 拷贝 这个动作。
我们可以把这个拷的运行封装成一个函数,供那些改变内容的成员函数使用。

2.3.4
Copy-On-Write 的具体实现是怎么样的?

      最后的这个问题,我们主要解决的是那个民主集中的难题。请先看下面的代码:
string h1 = “hello”;
string h2= h1;
string h3;
h3 = h2;
string w1 = “world”;
string w2(“”);
w2=w1;       
      很明显,我们要让h1h2h3共享同一块内存,让w1w2共享同一块内存。因为,在h1h2h3中,我们要维护一个引用计数,在w1w2中我们又要维护一个引用计数。
      如何使用一个巧妙的方法产生这两个引用计数呢?我们想到了string类的内存是在堆上动态分配的,既然共享内存的各个类指向的是同一个内存区,我们为什么不在这块区上多分配一点空间来存放这个引用计数呢?这样一来,所有共享一块内存区的类都有同样的一个引用计数,而这个变量的地址既然是在共享区上的,那么所有共享这块内存的类都可以访问到,也就知道这块内存的引用者有多少了。

      于是,有了这样一个机制,每当我们为string分配内存时,我们总是要多分配一个空间用来存放这个引用计数的值,只要发生拷贝构造或是赋值时,这个内存的值就会加一。而在内容修改时,string类为查看这个引用计数是否为0,如果不为零,表示有人在共享这块内存,那么自己需要先做一份拷贝,然后把引用计数减去一,再把数据拷贝过来。下面的几个程序片段说明了这两个动作:
 //
构造函数(分存内存)
  string::string(const char* tmp)
{
  _Len = strlen(tmp);
  _Ptr = new char[_Len+1+1];
  strcpy( _Ptr, tmp );
  _Ptr[_Len+1]=0; //
设置引用计数  
}
//
拷贝构造(共享内存)
  string::string(const string& str)
  {
      if (*this != str){
        this->_Ptr = str.c_str();   //
共享内存
        this->_Len = str.szie();
        this->_Ptr[_Len+1] ++; //
引用计数加一
      }
}
//
写时才拷贝Copy-On-Write
char& string::operator[](unsigned int idx)
{
  if (idx > _Len || _Ptr == 0 )
  {
      static char nullchar = 0;
      return nullchar;
  }
  _Ptr[_Len+1]--;   //
引用计数减一
  char* tmp = new char[_Len+1+1];
  strncpy( tmp, _Ptr, _Len+1);
  _Ptr = tmp;
  _Ptr[_Len+1]=0; //
设置新的共享内存的引用计数
 
  return _Ptr[idx];
}       
      哈哈,整个技术细节完全浮出水面。
      不过,这和STLbasic_string的实现细节还有一点点差别,在你打开STL的源码时,你会发现其取引用计数是通过这样的访问:_Ptr[-1],标准库中,把这个引用计数的内存分配在了前面(我给出来的代码是把引用计数分配以了后面,这很不好),分配在前的好处是当string的长度扩展时,只需要在后面扩展其内存,而不需要移动引用计数的内存存放位置,这又节省了一点时间。
      STL
中的string的内存结构就像我前面画的那个图一样,_Ptr指着是数据区,而RefCnt则在_Ptr-1 或是 _Ptr[-1]处。

2.4
臭虫Bug
      是谁说的有太阳的地方就会有黑暗?或许我们中的许多人都很迷信标准的东西,认为其是久经考验,不可能出错的。呵呵,千万不要有这种迷信,因为任何设计再好,编码再好的代码在某一特定的情况下都会有BugSTL同样如此,string类的这个共享内存/写时才拷贝技术也不例外,而且这个Bug或许还会让你的整个程序crash掉!不信?!那么让我们来看一个测试案例:
      假设有一个动态链接库(叫myNet.dllmyNet.so)中有这样一个函数返回的是string类:
string GetIPAddress(string hostname)
{
  static string ip;
  ……
  ……
  return ip;
}
     
而你的主程序中动态地载入这个动态链接库,并调用其中的这个函数:
main()
{
//
载入动态链接库中的函数
hDll = LoadLibraray(…..);
pFun = GetModule(hDll, “GetIPAddress”);
//
调用动态链接库中的函数
string ip = (*pFun)(“host1”);
……
……
//
释放动态链接库
FreeLibrary(hDll);
……
cout << ip << endl;
}
      
      让我们来看看这段代码,程序以动态方式载入动态链接库中的函数,然后以函数指针的方式调用动态链接库中的函数,并把返回值放在一个string类中,然后释放了这个动态链接库。释放后,输入ip的内容。
      根据函数的定义,我们知道函数是值返回的,所以,函数返回时,一定会调用拷贝构造函数,又根据string类的内存共享机制,在主程序中变量ip是和函数内部的那个静态string变量共享内存(这块内存区是在动态链接库的地址空间的)。而我们假设在整个主程序中都没有对ip的值进行修改过。那么在当主程序释放了动态链接库后,那个共享的内存区也随之释放。所以,以后对ip的访问,必然做造成内存地址访问非法,造成程序crash。即使你在以后没有使用到ip这个变量,那么在主程序退出时也会发生内存访问异常,因为程序退出时,ip会析构,在析构时就会发生内存访问异常。
      内存访问异常,意味着两件事:
1)无论你的程序再漂亮,都会因为这个错误变得暗淡无光,你的声誉也会因为这个错误受到损失。
2)未来的一段时间,你会被这个系统级错误所煎熬(在C++世界中,找到并排除这种内存错误并不是一件容易的事情)。
      这是
C/C++程序员永远的心头之痛,千里之堤,溃于蚁穴。而如果你不清楚string类的这种特征,在成千上万行代码中找这样一个内存异常,简直就是一场噩梦。
备注:要改正上述的Bug,有很多种方法,这里提供一种仅供参考:
string ip = (*pFun)(“host1”).cstr();

3
后记
      文章到这里也应该结束了,这篇文章的主要有以下几个目的:
1
 向大家介绍一下写时才拷贝/内存共享这种技术。
2
 STL中的string类为例,向大家介绍了一种设计模式。
3
 C++世界中,无论你的设计怎么精巧,代码怎么稳固,都难以照顾到所有的情况。智能指针更是一个典型的例子,无论你怎么设计,都会有非常严重的BUG
4
 C++是一把双刃剑,只有了解了原理,你才能更好的使用C++。否则,必将引火烧身。如果你在设计和使用类库时有一种C++就像玩火,必须千万小心的感觉,那么你就入门了,等你能把这股控制的得心应手时,那才是学成了。