【Siggraph 2012】SOUTHERN ISLANDS IN DEEP DIVE Graphics and Compute - AMD

今天要介绍的是AMD工程师Christophe Riccio在Siggraph 2012 Tech Talk上关于图形渲染性能优化的技术分享，原文查看与下载链接在参考文献[1]中给出。

先来看下当前图形渲染所面临的一些技术挑战或者说目标，在越来越复杂的场景中，我们需要实现如下几个目标：

1. 消除CPU的性能瓶颈
2. 实现GPU的高效利用
3. 实现内存的合理利用
4. 提升项目开发效率

下面我们逐一来看下对应的细节详情。

1. 消除CPU性能瓶颈

有很多方面都会导致CPU的性能瓶颈，比如GLSL编译时间过长就是其中的一种，对于这种问题，这里给出的解决思路是将整个编译工作改成并行完成：

1. 使用多线程编译机制
2. 避免在单个API调用完成后启动查询，而是尽量在所有编译都完成后再一次性查询（内存访问效率？）
3. 对于program的链接逻辑，也采用上述相同做法

Uniform数据上传到GPU过程消耗过高也是导致CPU性能瓶颈的重要原因，对于这种情况，这里给出的建议是对数据按照需要进行拆分，并进行分别处理：

1. 根据更新频率对Uniform变量进行排序
2. 只对那些必要的数据进行更新
3. 通过合批来降低Draw Call，减少数据传输的overhead

Draw Call数目太多，导致CPU到GPU的数据传输时间消耗过高导致CPU瓶颈，这种情况可以考虑如下两种解决方案：

1. 将多个物件的VAO合并到一个
2. 将具有相同顶点格式的mesh合并到一起，一次性提交（如果材质不同，不能合批渲染，这种一次性提交也没有意义吧？）

下图给出了一个将多个共享材质的Mesh数据塞到一个VB中进行绘制的示意伪代码：

下图给出了不同Draw Call下，使用不同的VB策略对应的时间消耗：

1. Draw Call数越大，渲染时间越多
2. 相同Draw Call下，Instancing < Shared VAO < Separate VAO

2. 实现GPU的高效利用

AMD出产的南方群岛芯片架构包含了如下一些要素：

1. 两个compute rings（没搜到相关资料，从后面的描述来看，应该是跟Compute Shader相关的，或许指的是用于实现Compute Shader流程的硬件）
2. 一个Graphics Ring（没搜到相关资料）
3. 两个DMA（Direct Memory Access）控制器：双向
4. 所有组件都是并行运行的

两个Compute Rings可以用于如下的一些工作：

1. 光滑粒子的流体动力学计算
2. 全局光照计算
3. 大气效果计算
4. 光线追踪算法
5. 一些物理计算（子弹）
6. 显存管理
7. 可编程Vertex Pulling（参见GPU Pro 4中的介绍，这是一种通过将大量工作放到GPU上来移除CPU瓶颈的渲染管线）

总结来说，就是用来做一些不适合放在GPU（冗长的管线与一些额外的stage）但是在CPU上执行又特别慢的操作。

这里重点介绍了Programmable Vertex Pulling的相关内容：

1. 存在一些专属的API扩展
2. 可以通过CS来构建indirect draw buffer
3. 通过command processor完成绘制指令的提交
4. 可以几乎完全移除CPU向GPU提交渲染指令的overhead
5. 提交的Draw Call上限相对于CPU有显著增加
6. 可以降低每次绘制的尺寸（具体是指？大量小物件绘制？）同时保持GPU的高效利用率，从而实现很好的tessellation质效平衡
7. 在indirect draw buffer中可以将primitive count设置为0来跳过entries的处理
8. 每次绘制都可以使用不同的顶点格式
9. Meshes doesn't have to be expended to satisfy OpenGL，Mesh不再需要按照OpenGL要求的方式进行处理？
10. 在VS阶段，可以为每次绘制设定不同的vertex pulling方法

后续还可以尝试如下做法来进一步提升性能：

1. 将Draw Call数存储在indirect buffer中（目的是？）
2. 使用Subroutine buffer（子例程buffer，具体怎么用？）
3. 增加gl_DrawID关键字来访问每个Draw的索引
4. 添加一个用于对Vertex Cache中的顶点进行重用的Flag标记

Tessellation主要有如下一些作用：

1. 不仅仅是能添加更为丰富的几何细节
2. 可以实现更细粒度的per-batch culling（具体如何做？在tessellation的过程中，为不同的primitive进行不同程度的tessellation来实现消耗的降低？）
3. 控制每个primitive上的pixel ratio（干啥用的？远景primitive分配较少pixel，近景pixel分配较多pixel？）
4. 实现图形管线的质效平衡。

读懂光栅化pattern有助于如下几项工作：

1. 可以更好的提升fill rate
2. 可以更高效的使用primitive peak rate（没搜到相关描述）
3. 可以实现对tessellation的优化

那么光栅化Pattern代表了什么含义呢：

1. 这是一种为不同的像素分配不同颜色的原子计数器，颜色代表不同的数值
2. 全屏quad由两个三角形组成
   2.1 Image based效果则是使用一个全屏三角面片来完成
3. 其扫描方向与framebuffer保持一致（？）
4. 由多个32 x 512 pixels的band组成

光栅化pattern是按照block组织的，每个block包含了4 x 4个像素，并对应了4个quadpixels（quadpixel的意思是指由2 x 2个pixel组成的一个大pixel？），Block是按照深度顺序（Z-order）来规划（Scheduled）的（干啥的？）。

南方群岛的扫描转换器的表现：

1. 每个时钟完成2个primitive的扫描转换
2. 每个primitive包含16个像素

这里假设有一个覆盖8个像素的三角面片，scan converter会从16个可能的位置创建8个fragments

如果某个三角面片横跨两个block，覆盖了12个像素，scan converter就会从32个位置中创建12个fragments

最小的处理粒度是quadpixels，这是为了后面计算贴图Mip层级时的微分数据需要。

在这个过程中，QuadPixel会根据需要创建一些额外的fragments来补齐quadpixel的缺口，比如前面的8个fragments就被补齐到12个fragments了，不过依然还处于同一个primitive中

如果primitive覆盖范围是subpixel级别的，那么每个primitive依然需要创建一个quadpixel，这种情况会使得primitive rate以及fill rate都会受到伤害。

这里的建议是：

1. 每个primitive至少要覆盖8个像素，这个要求可以用在如下两种情况中：
   1.1 tessellation实现上
   1.2 Mesh LOD制作上
2. 将更多的细节放在PS中完成，而非通过更小的geometry完成

3. 实现内存的合理利用

FirePro W9000虽然提供了6G的显存，但在一些复杂环境中依然不够用，南方群岛则通过一些虚拟内存技术来进一步提升可用存储空间。

一些常见的稀疏贴图或者稀疏buffer使用案例：

1. Mega Texture
2. 虚拟贴图
3. 一些设计精良的数据结构
   3.1 稀疏体素八叉树（SVO，sparse voxel octrees）
   3.2 Bounding Volume Hierachies(BVH)
4. 稀疏阴影

这里介绍一下稀疏阴影技术，这里使用了一个测试场景，稀疏引用使用的是一张大尺寸的稀疏贴图

需要为阴影所覆盖的有效区域分配对应的贴图空间

不同的物件的阴影分配的尺寸大小是不一样的（同一物件不同距离分配空间也是不同的）

在这个算法中，可以使用CS来完成如下工作：

1. 为不同物件的阴影分配对应的贴图page
2. 选择需要绘制的物件
   2.1 用于阴影绘制
   2.2 用于正常的场景绘制

贴图page的分配实现是在CPU上完成的。

4. 提升项目开发效率

提升开发效率主要可以通过如下几个方面来做到：

1. 好用的工具
2. 设计良好的API
3. 内容详实的使用文档

工具有如下几种：

1. 用于检测CPU瓶颈的CodeAnalyst
2. 用于OpenGL调试的gDEBugger
3. 用于OpenCL Profiling的APP Profiler等

API方面则主要关注ARB_debug_output，可以输出对应的错误码

文档则包括如上的一些内容。

参考

[1] SOUTHERN ISLANDS IN DEEP DIVE Graphics and Compute