Dynamic Branch Prediction with Perceptrons

Dynamic Branch Prediction with Perceptrons

1. 摘要

   • 使用一种最简单的神经网络，感知器，作为分支预测器中常用的两位计数器的替代品
   • 论文提出的预测器的硬件资源与分支历史的长度成线性关系
   • 预测器通过使用更长的分支历史得到了更高的准确率

2. 论文提出的分支预测器针对于线性可分的分支（linearly separable branches）有较好的效果，当分支处于线性不可分时，效果相对于之前的预测器会变差，因此论文提出了混合的分支预测器。线性可分是指在一个高维空间中，两种类型的样本点可以使用一个超平面划分开。对于两维空间而言，即样本点可以被一条直线分开。

3. 论文使用的感知器

   • 单层的感知器，有若干的输入单元和一个输出单元，两者之间使用带有权重的边连接。权重是有符号的整数，输出是输入和权重的点积输出
     $$y=w_0+\sum _{i=1}^n{x}_i{w}_i$$

   • 论文使用的输入是全局的分支历史移位寄存器中的数据，分支发生跳转使用1代替，未跳转使用-1代替。感知器输出如果为负数，则预测不跳转，否则预测为跳转

4. 感知器的训练过程

   • 当分支实际未跳转时，t=-1，否则t=1。θ作为阈值，用于控制训练的程度

     if sign(Yout)!=t or |Yout| <= θ then
     	for i=0 to n do
           	wi=wi+t*xi
         end for
     end if
     

   • 更新公式中，t和xi只能是-1/1，所以Wi是根据t和xi是否相同进行更新的，如果两者相同加一，否则减一

5. 预测器执行过程
   

   • 分支地址通过hashed得到感知器表的索引 i
   • 通过索引找到对应的感知器，将权重放到寄存器P中
   • 通过计算寄存器P和全局的分支历史寄存器的点积，得到输出y
   • 根据y的符号，进行预测
   • 当分支的真实跳转情况产生后，根据训练算法，更新P寄存器的权值
   • 将P寄存器的内容写回感知器表中对应的表项

6. 预测器的实现

   • 输出的计算：根据输入的特点，点积中的乘法可以被简单的加法和减法代替。同时预测只需要结果的符号位，因此结果的其他位可以更慢的计算

   • 训练过程：训练算法中的循环可以被并行的执行在每个权值更新上

     for each bit in parallel
     	if t=xi then
       		wi=wi+1
         else
         	wi=wi-1
         end if