ClickHouse为什么这么快（二）SSE指令优化

上一篇 ClickHouse为什么这么快（一）减少数据扫描范围 我们说到了ClickHouse中使用列存储，每个列都单独存储为一个文件，每个文件都是由一个或多个数据块组成，也就是说：每个文件由一个或多个数组组成，这篇博客就说一说如何使用SSE指令优化在数组上的查询。

问题：为了让性能对比更加明显，我们假定有一个表tab02包含一个uint8类型的列col，完成以下查询：

SELECT count(col) FROM tab02 WHERE col > 0

 由于col的数据存储为一个数组，我们可能会写出如下的代码：

size_t total1 = 0;
for (size_t i = 0; i < TotalCnt; i++)
{
  if (pData[i] > 0)
  {
    total1++;
  }
}

每次循环对一个数进行比较，当满足条件时让统计变量自增1，最后输出统计的变量值即可。这样可以完成任务。

但是，有没有更高性能的实现方法: 当然有，那就是可以一次对多个数进行操作的SSE指令集，在这个对比测试中我们用到了：_mm_setzero_si128，_mm_loadu_si128，_mm_cmpgt_epi8，_mm_movemask_epi8，_mm_popcnt_u32 如果需要运行测试程序请确认你的CPU支持 SSE2和SSE4.2 指令集（确认方法请自行百度）。

对应的实现代码如下：

const size_t SIMD_BYTES = 16;
size_t total2 = 0;
const __m128i zero16 = _mm_setzero_si128();
for (size_t i = 0; i < TotalCnt; i += SIMD_BYTES)
{
  int mask = _mm_movemask_epi8(_mm_cmpgt_epi8(
    _mm_loadu_si128(reinterpret_cast(pData + i)), zero16));
  total2 += _mm_popcnt_u32(static_cast(mask));
}

每个函数的详细的功能介绍请自行百度，这里仅介绍执行逻辑：

执行过程：每次执行对pData中的16个数与zero16中对应位置的数进行比较，如果pData中的数大于zero16中对应位置的值则得1，否则得0；接着将每个比较结果转换为一个bit（也就是mask的值）；最后计算mask值中bit为1的数量，也就是这16条数据中满足条件的数量。

在这个方案中：一次能对16个数进行比较，执行循环的次数仅为前一个实现的1/16，在我的测试中，后面的实现耗时大约只有前面实现耗时的1/8。

在ClickHouse中大量使用SSE指令集优化性能，具体的使用场景请参考源码。这里仅仅是实现了一个性能差别最大的示例来展示SSE指令优化的执行过程。

测试程序在Windows下VS2019编译执行，完整代码如下：

#include 
#include 
#include 
#include 

int main(int argc, char* argv[])
{
  const size_t TotalCnt =  1024 * 1024;
  const size_t SIMD_BYTES = 16;

  LARGE_INTEGER bgTest1, edTest1, bgTest2, edTest2;
  uint8_t* pRaw = new uint8_t[TotalCnt + SIMD_BYTES];
  size_t curMod = reinterpret_cast(pRaw) & (SIMD_BYTES - 1);
  uint8_t* pData = pRaw + (curMod == 0 ? 0 : SIMD_BYTES - curMod);
  
  for (size_t i = 0; i < TotalCnt; i++)
  {
    pData[i] = rand() % 10;
  }

  QueryPerformanceCounter(&bgTest1);
  size_t total1 = 0;
  for (size_t i = 0; i < TotalCnt; i++)
  {
    if (pData[i] > 0)
    {
      total1++;
    }
  }
  QueryPerformanceCounter(&edTest1);

  QueryPerformanceCounter(&bgTest2);
  size_t total2 = 0;
  const __m128i zero16 = _mm_setzero_si128();
  for (size_t i = 0; i < TotalCnt; i += SIMD_BYTES)
  {
    int mask = _mm_movemask_epi8(_mm_cmpgt_epi8(
_mm_loadu_si128(reinterpret_cast(pData + i)), zero16));
    total2 += _mm_popcnt_u32(static_cast(mask));
  }
  QueryPerformanceCounter(&edTest2);

  std::cout << "Test1 耗时:" << edTest1.QuadPart - bgTest1.QuadPart 
<< ", total1:" << total1 << std::endl;
  std::cout << "Test2 耗时:" << edTest2.QuadPart - bgTest2.QuadPart 
<< ", total2:" << total2 << std::endl;

  system("pause");
  return 0;
}