PDC 09：PLINQ使用过程中常见性能问题及应对方案

在上月举行的PDC 09大会上，微软并行库团队的开发工程师Igor Ostrovsky介绍了PLINQ的工作原理，以及多核编程中，尤其是在PLINQ使用过程中几种常见性能问题及应对方法。Igor表示，这些性能问题很少在顺序编程中遇到，因此在并行环境中容易被人忽视。

第一个性能问题是内存分配。由于利用了多核CPU进行运算，对象分配的速度也加快了。此外，程序中可以还会出现更高频率的字符串连接或装箱操作，这都会使GC压力增大。.NET应用程序所使用的默认GC方式为Concurrent GC，它的性能很高，并且为降低应用程序的延迟作了很多优化。它的最佳使用场景是用户交互式应用，这样可以尽可能避免用户界面的停顿，但是它在长期运行的多核程序中表现并不好。而最终的结果是大量计算时间耗费在GC上，此时应用程序算法即便是利用了多个核，也会发现它的伸缩能力受到了GC限制。解决这个问题的方法之一是减小内存分配，例如可以使用值类型来代替引用类型。值类型的对象会分配在线程栈而不是堆上，以此避免对GC产生压力。第二个方法是在config文件中启用Server GC。使用Server GC会改变.NET分配对象的方式，此时.NET会为每个核准备不同的堆，并且独立进行垃圾回收。这样在一台4核的机器上便可以有4个线程同时进行垃圾回收，性能自然也就随着多核而提升了。

第二个性能问题是CPU在局部化（Locality）和缓存方面的问题。在流行的多核架构中，每个核都有独立的二级缓存。CPU并不会缓存单个地址中的数据，而是缓存以64字节或128字节相邻内存的缓存条目（cache line），因此当某个核改变了内存中的数据时，则其他核中地址相邻的缓存数据也会失效，这样CPU每次进行计算时都要从速度较慢的内存中加载数据。这个性能问题的隐蔽之处在于代码中的不同数据——例如同一个数组的不同下标——可能在内存中处在同一个缓存条目中，因此这个问题又被称为错误共享（False Sharing）。Igor演示了一段性能低下的代码，在这个实现中多个线程会不断读写同一个数组的相邻下标，因此造成了错误共享。Igor的修改方法是将数据存放在数组中相距较远的下标，甚至是不同的数组中。由于CPU的缓存条目大小有限，这种方法可以避免出现错误共享。博客园老赵在《计算机体系结构与程序性能》一文中也提出了一种优化方式，他的做法是尽可能使用局部变量来保存计算过程中的中间值，以此减少对数组的修改操作。由于局部变量分处不同线程的栈空间内，因此地址相距很远，不会造成错误共享问题。当有人问起到这种优化方式是否安全时，Igor答到，这其实和CPU架构的实现方式有很大关系。如果某一天缓存实现变化了，可能这种优化方式会适得其反。不过在目前主流架构中，这样的做法是比较安全的。Igor补充道，他认为这也是为什么“全自动”并行化那么困难的原因之一，因为在并行环境下影响程序性能的方面实在太多了。

第三个问题在于开发人员倾向于在PLINQ中使用大量小粒度的委托来完成工作，此时每个委托的计算任务很小，而委托的执行次数会很多。在计算较长的序列时，小粒度的委托对象也能获得性能提高，但是它会产生额外的负载。例如，MoveNext和Current的调用，以及每个委托的执行性能都和虚方法比较接近。此外，一个较长的输入序列也会受限于内存的吞吐量。因此，Igor建议开发人员在使用PLINQ时尽可能使用计算量较大的委托，以此减少计算主体外的性能开销。

第四和第五问题则与PLINQ的实现有关。Igor表示，PLINQ可以并行执行所有的LINQ查询，但是相对于复杂的LINQ查询，PLINQ能够对简单的LINQ操作有更好的优化。因此，Igor建议开发人员在使用PLINQ时可以手动将复杂的LINQ表达式拆分为简单的LINQ查询，并且只在真正需要大量计算的地方才开始并行化。这种结合顺序执行和并行执行的方式，可以让应用程序的性能达到最优。此外，为不同的输入方式选择不同的分块（partition）策略对性能的影响很大，因此PLINQ会对数组和IList<>进行静态的分割，而对IEnumerable<>集合按实际需求进行划分，而开发人员也可以通过自定义Partitioner的方式来指定特别的分割策略。

最后，Igor强调，使用并行计算进行程序性能优化之前，一定要通过合适的评测方式来找到代码的瓶颈。如果这个瓶颈正符合数据并行（data parallel）模式，那么可以使用PLINQ进行性能优化。而优化完成后还需要评测其效果，并使用之前提出的几种方案进行合适的调整。

你可以在PDC 2009的网站上浏览或下载本次演讲的完整录像及幻灯片等资源。