Effective STL: 考虑用已序vector代替关联容器

 

条款23：考虑用已序vector代替关联容器

当需要一个提供快速查找的数据结构时，很多STL程序员立刻会想到标准关联容器：set、multiset、map和multimap。直到现在这很好，但不是永远都好。如果查找速度真得很重要，的确也值得考虑使用非标准的hash容器。如果使用了合适的hash函数，则可以认为hash容器提供了常数时间的查找。（如果选择了不好的hash函数或表的太小，hash表的查找性能可能明显下降，但在实际中这相对少见。）对于多数应用，被认为是常数时间查找的hash容器要好于保证了对数时间查找的set、map和它们的multi版本。

 

即使你需要的就只是对数时间查找的保证，标准关联容器仍然可能不是你的最佳选择。和直觉相反，对于标准关联容器，所提供的性能也经常劣于本该比较次的vector。如果你要高效使用STL，你需要明白什么时候和怎么让一个vector可以提供比标准关联容器更快的查找。

 

标准关联容器的典型实现是平衡二叉查找树。一个平衡二叉查找树是一个对插入、删除和查找的混合操作优化的数据结构。换句话说，它被设计为应用于进行一些插入，然后一些查找，然后可能再进行一些插入，然后也许一些删除，然后再来一些查找，然后更多的插入或删除，然后更多的查找等。这个事件序列的关键特征是插入、删除和查找都是混合在一起的。一般来说，没有办法预测对树的下一个操作是什么。

在很多应用中，使用数据结构并没有那么混乱。它们对数据结构的使用可以总结为这样的三个截然不同的阶段：

1. 建立。通过插入很多元素建立一个新的数据结构。在这个阶段，几乎所有的操作都是插入和删除。几乎没有或根本没有查找。
2. 查找。在数据结构中查找指定的信息片。在这个阶段，几乎所有的操作都是查找。几乎没有或根本没有插入和删除。
3. 重组。修改数据结构的内容，也许通过删除所有现有数据和在原地插入新数据。从动作上说，这个阶段等价于阶段1。一旦这个阶段完成，应用程序返回阶段2。

对于这么使用它们的数据结构的应用来说，一个vector可能比一个关联容器能提供更高的性能（时间和空间上都是）。但不是任意的vector都会，只有已序vector。因为只有已序容器才能正确地使用查找算法——binary_search、lower_bound、equal_range等（参见条款34）。但为什么一个（已序的）vector的二分法查找比一个二叉树的二分法查找提供了更好的性能？因为有些东西是过时的但却是真的，其中的一个是大小问题。其他东西不那么过时也不那么真，其中的一个是引用局部性问题。

 

考虑第一个大小问题。假设我们需要一个容器来容纳Widget对象，而且，因为查找速度对我们很重要，我们考虑一个Widget的关联容器和一个已序vector<Widget>。如果我们选择一个关联容器，我们几乎确定了要使用平衡二叉树。这样的树使用树节点组成，每个都不仅容纳了一个Widget，而且保存了一个该节点到左孩子的指针，一个到它右孩子的指针，和（典型的）一个到它父节点的指针。这意味着在关联容器中用于存储一个Widget的空间开销至少会是三个指针。

 

与之相对的是，当在vector中存储Widget并没有开销：我们简单地存储一个Widget。当然，vector本身有开销，在vector结尾也可能有空的（保留）空间，但是每个vector开销是可以忽略的（通常是三个机器字，比如，三个指针或两个指针和一个int），而且如果必要的话，末尾空的空间可以通过“交换技巧”去掉。即使这个附加的空间没有去掉，也并不影响下面的分析，因为当查找时不会引用那段内存。

 

假设我们的数据结构足够大，它们可以分成多个内存页面，但是vector比关联容器需要的页面要少。那是因为vector不需要每个Widget的开销，而关联容器给每个Widget上附加了三个指针。要知道为什么这很重要，假设在你使用的系统上一个Widget的大小是12个字节，指针是4个字节，一个内存页面是4096（4K）字节。忽略每个容器的开销，当用vector保存时，你可以在一页面上放置341个Widget，但使用关联容器时你最多只能放170个。因此关联容器和vector比起来，你将会使用大约两倍的内存。如果你使用的环境可以用虚拟内存，就很可以容易地看出那会造成大量的页面错误，因此一个系统会因为大数据量而明显慢下来。

 

实际上我在这里还是对关联容器很乐观的，因为我们假设在二叉树中的节点都群集在一个相关的小内存页面集中。大部分STL实现使用自定义内存管理器来达到这样的群集，但是如果你的STL实现没有改进树节点中的引用局部性，这些节点会分散在所有你的内存空间。那会导致更多的页面错误。即使使用了自定义群集内存管理器，关联容器也会导致很多页面错误，因为，不像连续内存容器，比如vector，基于节点的容器更难保证在容器的遍历顺序中一个挨着一个的元素在物理内存上也是一个挨着一个。但当进行二分查找时那种内存组织方式（译注：遍历顺序中一个挨着一个的元素在物理内存上也是一个挨着一个）正好是页面错误最少的。

 

概要：在已序vector中存储数据很有可能比在标准关联容器中保存相同的数据消耗更少的内存；当页面错误值得重视的时候，在已序vector中通过二分法查找可能比在一个标准关联容器中查找更快。

 

当然，已序vector的大缺点是它必须保持排序！当一个新元素插入时，大于这个新元素的所有东西都必须向上移一位。它和听起来一样昂贵，如果vector必须重新分配它的内在内存（参见条款14），则会更昂贵，因为vector中所有的元素都必须拷贝。同样的，如果一个元素从vector中被删除，所有大于它的元素都要向下移动。vector的插入和删除都很昂贵，但是关联容器的插入和删除则很轻量。这就是为什么只有当你知道你的数据结构使用的时候查找几乎不和插入和删除混合时，使用已序vector代替关联容器才有意义。

 

本条款有很多文字，但不幸的是只有很少的例子，所以我们来看看一个使用已序vector代替set的代码骨架：

vector<Widget> vw;      // 代替set<Widget>
...       // 建立阶段：很多插入，
       // 几乎没有查找
sort(vw.begin(), vw.end());     // 结束建立阶段。（当
       // 模拟一个multiset时，你
       // 可能更喜欢用stable_sort
       // 来代替；参见条款31。）
Widget w;       // 用于查找的值的对象
...       // 开始查找阶段
if (binary_search(vw.begin(), vw.end(), w))...  // 通过binary_search查找
vector<Widget>::iterator i =
 lower_bound(vw.begin(), vw.end(), w);  // 通过lower_bound查找
if (i != vw.end() && !(*i < w))...    // 条款45解释了
       // “!(*i < w)”测试
pair<vector<Widget>::iterator,
 vector<Widget>::iterator> range =
  equal_range(vw.begin(), vw.end(), w); // 通过equal_range查找
if (range.first != range.second)...
...       // 结束查找阶段，开始
       // 重组阶段
sort(vw.begin(), vw.end());     // 开始新的查找阶段...

就像你可以看到的，这非常直截了当。里面最难的东西就是怎么在搜索算法中做出选择（比如，binary_search、lower_bound等），条款45可以帮你做出选择。

 

当你决定用vector代替map或multimap时，事情会变得更有趣，因为vector必须容纳pair对象。毕竟，那是map和multimap所容纳的。但是要注意，如果你声明一个map<K, V>的对象（或者等价的multimap），保存在map中的元素类型是pair<const K, V>。如果要用vector模拟map或者multimap，你必须去掉const，因为当你对vector排序时，它的元素的值将会通过赋值移动，那意味着pair的两个组件都必须是可赋值的。当使用vector来模拟map<K, V>时，保存在vector中数据的类型将是pair<K, V>，而不是pair<const K, V>。

map和multimap以顺序的方式保存他们的元素，但用于排序目的时它们只作用于元素的key部分（pair的第一个组件），所以当排序vector时你必须做一样的事情。你需要为你的pair写一个自定义比较函数，因为pair的operator<作用于pair的两个组件。

 

有趣的是，你会需要第二个比较函数来进行查找。用来排序的比较函数将作用于两个pair对象，但是查找只用到key值。必须传给用于查找的比较函数一个key类型的对象（要查找的值）和一个pair（存储在vector中的一个pair）——两个不同的类型。还有一个附加的麻烦，你不会知道key还是pair是作为第一个参数传递的，所以你真的需要两个用于查找的比较函数：一个key值先传递，一个pair先传递。

这个例子演示了怎么把这些东西合在一起：

typedef pair<string, int> Data;    // 在这个例子里
       // "map"容纳的类型
class DataCompare {     // 用于比较的类
public:
 bool operator()(const Data& lhs,   // 用于排序的比较函数
   const Data& rhs) const
 {
  return keyLess(lhs.first, rhs.first); // keyLess在下面
 } 
 bool operator()(const Data& Ihs,   // 用于查找的比较函数
   const Data::first_type& k) const // （形式1）
 {
  return keyLess(lhs.first, k);
 } 
 bool operator()(const Data::first_type& k,  // 用于查找的比较函数
   const Data& rhs) const  // （形式2）
 {
  return keyLessfk, rhs.first);
 }
private:
 bool keyLess(const Data::first_type& k1,  // “真的”
   const Data::first_type& k2) const // 比较函数
 {
  return k1 < k2;
 }
};

在这个例子中，我们假设已序vector将模拟map<string, int>。这段代码几乎是上面讨论的字面转换，除了存在成员函数keyLess。那个函数的存在是用来保证几个不同的operator()函数之间的一致性。每个这样的函数只是简单地比较两个key的值，所以我们把这个测试放在keyLess中并让operator()函数返回keyLess所做的事情，这比复制那个逻辑要好。这个软件工程中绝妙的动作增强了DataCompare的可维护性，但有一个小缺点，它提供了有不同参数类型的operator()函数，这将导致函数对象无法适配（看见条款40）。噢，好了。

把已序vector用作map本质上和用作set一样。唯一大的区别是必须把DataCompare对象用作比较函数：

vector<Data> vd;      // 代替map<string, int>
...       // 建立阶段：很多插入，
       // 几乎没有查找
sort(vd.begin(), vd.end(), DataCompare());   // 结束建立阶段。（当
       // 模拟multimap时，你
       // 可能更喜欢用stable_sort
       // 来代替；参见条款31。）
string s;       // 用于查找的值的对象
...       // 开始查找阶段
if (binary_search(vd.begin(), vd.end(), s,
   DataCompare()))...   // 通过binary_search查找
vector<Data>::iterator i =
 lower_bound(vd.begin(), vd.end(), s,
   DataCompare());   // 在次通过lower_bound查找，
if (i != vd.end() && !(i->first < s))...   // 条款45解释了
       // “!(i->first < s)”测试
pair<vector<Data>::iterator,
  vector<Data>::iterator> range =
   equal_range(vd.begin(), vd.end(), s,
     DataCompare()); // 通过equal_range查找
if (range.first != range.second)...
...       // 结束查找阶段，开始
       // 重组阶段
sort(vd.begin(), vd.end(), DataCompare());   // 开始新的查找阶段...

正如你所见，一旦你写了DataCompare，东西都很好的依序排列了。而一旦位置合适了，只要你的程序按照101页描述的阶段方式使用数据结构，它们往往比相应的使用真的map的设计运行得更快而且使用更少内存。如果你的程序不是按照阶段的方式操作数据结构，那么使用已序vector代替标准关联容器几乎可以确定是在浪费时间。