冷知识:达夫设备(Duff's Device)效率真的很高吗?

ID:技术让梦想更伟大

作者:李肖遥

wechat链接:https://mp.weixin.qq.com/s/b1jQDH22hk9lhdC9nDqI6w

 

相信大家写业务逻辑的时候,都是面向if、elseforwhileswitch编程。但是你见过switch嵌套do..while吗?

先上代码

void send( int * to, int * from, int count)
{
    int n = (count + 7 ) / 8 ;
    switch (count % 8 ) {
    case 0 :    do { * to ++ = * from ++ ;
    case 7 :          * to ++ = * from ++ ;
    case 6 :          * to ++ = * from ++ ;
    case 5 :          * to ++ = * from ++ ;
    case 4 :          * to ++ = * from ++ ;
    case 3 :          * to ++ = * from ++ ;
    case 2 :          * to ++ = * from ++ ;
    case 1 :          * to ++ = * from ++ ;
           } while ( -- n >    0 );
    }  
}

咋的一看,这啥玩意啊,switch/while 这组合能编译通过吗?您可别怀疑,还真能。这个就是达夫设备(Duff's Device)

什么是达夫设备

百度百科说法如下:

在计算机科学领域,达夫设备(英文:Duff's device)是串行复制(serial copy)的一种优化实现,通过汇编语言编程时一常用方法,实现展开循环,进而提高执行效率。这一方法据信为当时供职于卢卡斯影业的汤姆·达夫于1983年11月发明,并可能是迄今为止利用C语言switch语句特性所作的最巧妙的实现。

达夫设备是一个加速循环语句的C编码技巧。其基本思想是--减少循环测试的执行次数。

简单讲下背景

时间要回到1983年,那是一个雨过天晴的夏天,在卢卡斯影业上班的程序员Tom Duff,他是想为了加速一个实时动画程序,实现从一个数组复制数据到一个寄存器这样一个功能,真脸如下。冷知识:达夫设备(Duff's Device)效率真的很高吗?_第1张图片

一般情况下,若要将数组元素复制进存储器映射输出寄存器,较为直接的做法如下所示

do {
  /* count > 0 assumed (假定count的初始值大于0) */    
  *to = *from++;            
  /* Note that the 'to' pointer is NOT incremented 
  (注意此处的指针变量to指向并未改变) */
} while(--count > 0);

但是达夫洞察到,若在这一过程中将一条switch和一个循环相结合,则可展开循环,应用的是C语言里面case 标签的Fall through特性,实际就是没有break继续执行。实现如上代码所示。

其实第一版是这样写的:

void send(to, from, count)
register short *to, *from;
register int count;
{
    /* count > 0 assumed */
    do {        
        *to++ = *from++;
    } while (--count > 0);
}

这段代码等价于:

void send(register short* to, register short* from, register int count)
{
    /* count > 0 assumed */
    do {                          
        *to++ = *from++;
    } while (--count > 0);
}

但是在这种使用场景下,不易于移植和应用,然后他就更新了第二版,代码如下:

void send2(short* to, short* from, int count)
{
    int n = count / 8;
    do {
        *to++ = *from++;
        *to++ = *from++;
        *to++ = *from++;
        *to++ = *from++;
        *to++ = *from++;
        *to++ = *from++;
        *to++ = *from++;
        *to++ = *from++;
    } while (--n > 0);
}

这种写法减少了比较次数,在汇编层面单纯讲到下面代码的时候

do... while(--count > 0) 

总共有6条指令。大家可以用godbolt.org/ 测一下。如下(汇编测试参考网上资源,大家可以自行测试)

subl  $1,-4(%rbp)
cmp1  $0,-4(%rgp)
setg  %al,
testb %al,%al
je    ,L8
jmp   ,L7

如果原始count是256,就这一部分指令减少(256-256/8)*6=(256-32)*6=1344。对应6条指令:

movl   -36(%rbp),%eax
leal   7(%rax),%edx
testl  %eax,%eax
cmovs  %edx,%eax
sarl   $3,%eax
movl   %eax,-4(%rbp)

但是这个版本在通用性能还不够,count一定要是8的倍数,所以经过了这两个版本的发展,最终才有了上述那个最终版本的诞生。虽然性能上没有什么优化,但是最终版的达夫设备,count不局限于一定是8的倍数了!

实现机制、代码解析

实现机制

在达夫解决这个问题的时候,当时的C语言对switch语句的规范是比较松的,在switch控制语句内,条件标号(case)可以出现在任意子语句之前,充作其前缀。

此外若未加入break语句,则在switch语句在根据条件判定,跳转到对应的标号,并在开始执行后,控制流会一直执行到switch嵌套语句的末尾。

利用这种特性,这段代码可以从连续地址中将count个数据复制到存储器中,映射输出寄存器中。

另一方面,C语言本身也对跳转到循环内部提供了支持,因而此处的switch/case语句便可跳转到循环内部。

代码解析

首先说下这段代码,编译没问题,我们写个代码如下:

#include < iostream > 
using namespace std;
int  main()
{
    int  n  = 0 ;
    switch  (n)  { 
    case 0 :  do   {cout  <<   " 0 "   <<  endl;
    case 1 :         cout  <<   " 1 "   <<  endl;
    case 2 :         cout  <<   " 2 "   <<  endl;
    case 3 :         cout  <<   " 3 "   <<  endl; 
      }   while ( -- n  > 0 ); 
   } 
} 

根据n的不同输入,实验结果如下

n的值 程序输出
0 0 1 2 3
1 1 2 3
2 2 3 0 1 2 3
3 3 0 1 2 3 0 1 2 3

这段代码的主体还是do-while循环,但这个循环的入口点并不一定是在do那里,而是由这个switch(n),把循环的入口定在了几个case标号那里。

即程序的执行流程是: 

程序执行到了switch的时候,就会根据n的值,直接跳转到 case n那里,再当它执行到while那里时,就会判断循环条件。若为真,则while循环开始,程序跳转到do那里开始执行循环;为假,则退出循环,即程序中止。(这个swicth语句就再也没有用了)

我们再看以下代码,这里 count 个字节从 from 指向的数组复制到 to 指向的内存地址,是个内存映射的输出寄存器。它把 swtich 语句和复制 8 个字节的循环交织在一起, 从而解决了剩余字节的处理问题 (当 count % 8 != 0)。

void send( int * to, int * from, int count)
{
    int n = (count + 7 ) / 8 ;
    switch (count % 8 ) {
    case 0 :    do { * to ++ = * from ++ ;
    case 7 :          * to ++ = * from ++ ;
    case 6 :          * to ++ = * from ++ ;
    case 5 :          * to ++ = * from ++ ;
    case 4 :          * to ++ = * from ++ ;
    case 3 :          * to ++ = * from ++ ;
    case 2 :          * to ++ = * from ++ ;
    case 1 :          * to ++ = * from ++ ;
           } while ( -- n >    0 );
    }  
}

switch内的表达式计算被8除的余数。执行开始于while循环内的哪个位置由这个余数决定,直到最终循环退出(没有break)。Duff's Device这样就简单漂亮地解决了边界条件的问题。

性能表现

我们一般使用用for循环或者while循环的时候,如果执行循环内容本身用不了多少时间,本质上时间主要是消耗在了每次循环的比较语句上边。

而事实上,比较语句是有很大优化空间的,我们假设你要循环10000次,结果你从第一次开始就不断的比较是否达到上界值,这是不是很徒劳呢?

我们写一个达夫设备的函数用来测试执行时间(参考网上资源,这个测试不难,不同测试会有不同效果,大家可以自行测试一下):

int duff_device(int a)
{
    resigter x = 0;
    int n = (a) / 10;
    switch(a%10){
        case 0do{ x++;
        case 9:x++; 
        case 8:x++;   
        case 7:x++;  
        case 6:x++;   
        case 5:x++;   
        case 4:x++;   
        case 3:x++;   
        case 2:x++;   
        case 1:x++;   
        }while(--n>0)
    }
    return x;
}

测试主函数如下

#include 
#define count 999999999
long int overtime = count;
int main()
{
    printf("over %d",duff_device(overtime));
    return 0;
}

执行时间如下

现在我们看一下传统的循环的执行时间,其测试代码如下:

int classical(int a)
{
    register x=0;
    do{
        x ++;
    }while(--a>0);
    return x;
}

测试主函数如下

#include 
#define count 999999999
long int overtime = count;
int main()
{
    printf("over %d",classical(overtime));
    return 0;
}

执行时间如下

结果显示达夫设备确实缩短了不少时间,这里x的定义是要用register关键字,这样cpu就会把x尽可能存入cpu内部的寄存器,新的cpu应该会有很通用寄存器使用。

值得一提的是,针对串行复制的需求,标准C语言库提供了memcpy函数,而其效率不会比斯特劳斯鲁普版的达夫设备低,并可能包含了针对特定架构的优化,从而进一步大幅提升执行效率。

从不同角度看达夫设备

从语言的角度来看

我个人觉得这种写法不是很值得我们借鉴。毕竟这不是符合我们“正常”逻辑的代码,至少C/C++标准不会保证这样的代码一定不会出错。

另外, 这种代码冷知识,估计有很多人根本都没见过,如果自己写的代码别人看不懂,估计会被骂的。

从算法的角度来看

我觉得达夫设备是个很高效、很值得我们去学习的东西。把一次消耗相对比较高的操作“分摊“到了多次消耗相对比较低的操作上面,就像vector中实现可变长度的数组的思想那样,节省了大量的机器资源,也大大提高了程序的效率。这是值得我们去学习的。

总结

达夫设备能实现的优化效果日趋在减弱,时代在变化,语言在发展,硬件设备在变化,编译器性能优化,除非特殊的需求下,一般还是没必要做像这种层次的性能考量的。不过,这种奇妙的 switch-case 写法经常研究一下还是很有乐趣的,你们觉得呢……

 

关注微信公众号『技术让梦想更伟大』,后台回复“m”查看更多内容,回复“加群”加入技术交流群。

冷知识:达夫设备(Duff's Device)效率真的很高吗?_第2张图片

长按前往图中包含的公众号关注

你可能感兴趣的:(冷知识:达夫设备(Duff's Device)效率真的很高吗?)