处理器结构--MicroOp &&MacroOp Fusion

MicroOp Fusion

也成为微指令操作融合,将多个相同的汇编指令编译的uops融合到一个微指令中,使得ALU在执行指令时可以在一个Cycle中执行完毕,提高指令执行的吞吐量

指令融合背景

RAT(Register Renaming Table)以及RRF(Retirement Register File)在PipeLine中已经到了瓶颈,最大吞吐量只能到每个Clock Cycle执行3条uop。为了突破该瓶颈,设计者们将在以前分割成两个uop的指令进行合并处理,他们称之为微指令融合(uop fusion)。

融合操作在大多数的PipeLine流程中共享同一条uop,并且在ROB(Reorder Buffer)中只占一个Entry。但是单条ROB Entry代表了两个操作,这两个操作必须由两个不同的执行单元完成。而融合后的ROB Entry也会也会被分发到两个不同的执行端口,但是最后会作为单个单元返回到ROB Entry。

微指令融合技术只能用于两种:

  • 内存写操作
  • 读-修改操作

内存写操作(Memory Write)

一个内存写操作包括计算内存地址,传输数据。在以前的处理器中,这两个操作会被分成两个uops,第一个uop使用端口3只关心内存地址的计算,而第二个uop使用端口4关心数据的传输。 而读操作只需要在一个uop使用端口2,所以它和之前的处理器是一样的。

内存读-修改(Read-Modify)

例如ADD EAX,[mem32]包含了两个操作:

  • 从端口2读[mem32]的数据
  • 从端口0或者1将数据与EAX寄存器中数据相加

这些指令在Pentium M之前的处理器都是被分成两个uop,而在Pentium M之后就被融合了。这种融合只适用于常规的寄存器,浮点栈指针寄存器,MMX寄存器,而不适用于XMM寄存器。

而一个读-改-写的操作,例如ADD [mem32],EAX则不会融合读-修改的uop,不过它可以融合成两个写的uop。
例如以下的指令融合:

; Example 7.2. Uop fusion
mov [esi], eax ; 1 fused uop
add eax, [esi] ; 1 fused uop
add [esi], eax ; 2 single + 1 fused uop
fadd qword ptr [esi] ; 1 fused uop
paddw mm0, qword ptr [esi] ; 1 fused uop
paddw xmm0, xmmword ptr [esi] ; 4 uops, not fused
addss xmm0, dword ptr [esi] ; 2 uops, not fused
movaps xmmword ptr [esi], xmm0 ; 2 fused uops

Pentium M的ROB已经重新设计,以至于ROB中的每一个Entry都可以拥有三个输入依赖,而以前的设置只允许两个。

例如,指令MOV [ESI+EDI],EAX以及ADD EAX,[ESI+EDI]都有三个输入依赖,也就是ESIEDI以及EAX都必须全部都准备好指令才能被执行。进入执行单元却没有融合的uop依旧只有两个输入依赖。MOV [ESI+EDI],EAX被分割成地址计算的uop,而该uop依赖于ESI以及EDI,以及一个保存的uop,而该uop依赖于地址计算的uop以及EAX的输出。
相似的是,ADD EAX,[ESI+EDI]被分割成一个读uop依赖于ESI以及EDI寄存器,以及一个ADD的uop依赖于读up以及EAX的输出。这些不能融合的uop只能拥有两个输入依赖。
ADC EAX,EBX以及CMOVE EAX,EBX都有三个输入依赖:EAX以及EBX以及Flags```寄存器。这些指令不能融合,他们必须生成两个uop。

微指令融合

一个CMPTEST指令后一定会有一条有条件的跳转指令,而这两条指令则可以融合(Fused)到单条Macro-op中。所有版本的CMPTEST指令以及所有的有条件跳转的指令都适用Macro-op融合。
除了:CMP以及TEST后拥有一条Rip相对寻址或者一个位移与立即操作数操作的指令无法融合
例如:

; Example 19.1. Instruction fusion on Bulldozer  

test eax,4
jnz L1 ;       // fused into one op
cmp [Mydata],eax ;     //  rip-relative address in 64 bit mode
jb L2 ;     //  not fused if rip-relative address
cmp dword ptr[rsi+8],2 ;    //  both displacement and immediate operand
jl L3 ;    //  not fused
cmp [Mydata+rbx*4],eax ;    //  32-bit absolute address + scaled index
jg L3 ;     //  fused
dec ecx
jnz L4 ;     //  not fused. Only cmp and test can fuse

没有其他的ALU指令可以与有条件跳转的指令融合。最大程度的解码速度不会因为指令融合而增加。

优势

uop融合有以下优点:

  • 解码更加高效,因为生成一个融合的OP的指令可以进入三个解码器中的任何一个,而生成两个OP的指令只能到解码器D0
  • 当生成更少的OPS时,寄存器重命名和Retirement的负载减少
  • uop融合后,ROB的容量会增加

参考资料

Microbenchmarking fused instruction
MicroFusion in Intel CPUs
MacroFusion in Intel CPUs
microarchitecture

你可能感兴趣的:(处理器结构--MicroOp &&MacroOp Fusion)