H.266中的多核变换

在HEVC标准中基本上仅仅使用DCT2作为变换核，只在帧内4*4的块的亮度分量使用了DST变换，而H.266的多核变换技术引入了更多的选择，新引入了DST7，DCT8,DCT5，DST1，目前仅仅帧间保留了DCT8和DST7，帧内全部存在，由于266不存在TU的概念，即CU=PU=TU那么就出现了非方形的变换块，且可以使用非对称的变换核，因此，以帧间为例出现了五组变换核（DCT2，DCT2）,（DST7，DST7）,(DCT8.DCT8),(DCT8，DST7),(DST7，DC78),

             

               对于帧间这五组变换核根据RDO的结果，选择最好的一组，传输index标记，存在两个语法元素，一个多核变换的flag，标记使用传统的265的DCT2，还是使用新引人的，如flag=true，传输index标记使用四组中的某一个，复杂度很高，但是对于大序列的性能很好，可达到2%左右，后期由于快速算法的提出，其实复杂度已经只有10%左右，完全可以接受。

            对于帧内，由于帧内存在上述提到的5中变换核，如果组合的话或出现很多结果，并且帧内的残差分布跟模式是有一定联系的，同时变换核也有某种特性，例如DST适合残差从左向右，从上向下增大的变换块，DCT8跟它相反，因此，提案方，根据这些信息，训练确定了模式和变换核的选取，如下：

                   

                         

             根据上图可知，帧内其实对于每种模式组合后也只有五中变换对，然后根据RDO的原则选择最优的变换对。

       由描述可知，多核变换的复杂度很高，要做多次RDO，因此出现了下图的快速算法：