HLSL中的MUL指令深层剖析

原作者邮箱 BoYueGame#Gmail#com 欢迎交流。

此贴可以随意转载而不用注名出处。但也别说是你写的就行。

在读此文之前，读者应该知道什么是行主，列主矩阵，写过简单的HLSL或者ASM SHADER

读者知道简单的矩阵运算规则

本文主要内容有：

一、部分背景内容

二、HLSL中的row-major matrix picking and column-major matrix picking

三、MUL规则

四、观察矩阵的另类解释和TBN空间的类推

五、HLSL中矩阵的构造（为什么WorldToTargentSpaceMatrix要左乘LightDir）

 

一、部分背景

既然是HLSL中的指令，那我们的所有标准就以D3D而来。换句话说，矩阵以如下方式存储

１１ １２ １３ １４

２１ ２２ ２３ ２４

３１ ３２ ３３ ３４

４１ ４２ ４３ ４４

典型的世界矩阵如下

C1 C2 C3 C4

R1 １ ０ ０ ０

R2 ０ １ ０ ０

R3 ０ ０ １ ０

R4 ２０ ２０ ２０ １

这就是传说中的行主矩阵（row-major matrix） 注：这里只说它的存储方式，而不管他的运算符操作方法。

对于一个这样的矩阵，我们给一个行向量（row vector） V(X,Y,Z,W)

那么，V*M为如下结果

X = X*11+Y*21+Z*31+W*41 （１）

Y = X*12+Y*22+Z*32+W*42 （２）

Z = X*13+Y*23+Z*33+W*43 （３）

W = X*14+Y*24+Z*34+W*44 （４）

看到上面的1,2,3,4四个运算，我们很自然想到了向量点乘（Dot Product）我们把三维向量的点乘简称dp3，四维的则叫dp4 那么有

dp3（V1，V2）= V1.x*V2.x+V1.y*V2.y+V1.z*V2.z

dp4（V1，V2）= V1.x*V2.x+V1.y*V2.y+V1.z*V2.z+V1.w*V2.w

于是，我们的向量V乘矩阵M就可以表示为

V.X = dp4（V，M[C1]）；

V.Y = dp4（V，M[C2]）；

V.Z = dp4（V，M[C3]）；

V.W = dp4（V,M[C4]）；

说了这么多，好像不是在说MUL指令，但其实这个MUL指令息息相关。

首先来看看Mul(x,y)指令的最基本的信息。

当X为向量时，X被视为行向量。

当Y为向量时，Y被视为列向量。

大家都知道，在HLSL中，如果我们采用Effect::SetMatrix进行矩阵的设置时，我们就可以采用如Mul（inPos，matWorldViewProj）来计算。 

而如果是用普通的SetVertexConstantF等来设置矩阵数据的话，就需要用Mul（matWorldViewProj，inPos）来计算，

或者用Mul（inPos，matWorldViewProjTranspose）。

我想许多人都明白，那是因为在用SetMatrix时，HLSL会将矩阵进行转置，进而成为一个列矩阵。

自然，采用SetMatrix与不采用SetMatrix就不一样了。

可是，我们之前不是说了么，行向量乘以行主矩阵才是 向量在左边呀， 但现在一个是行向量，一个是列矩阵。 

怎么就绕不过来了呢。 

其实很容易绕过来，要知道MUL是我们（或者说叫他们）自己定义的，怎么实现难道还非得按照标准的线性代数规则来安排位置不成。

用HLSL写过SHADER的人都应该清楚下面这段代码的含义。

float4x4 matViewProjection;

float4 vs_main(float4 Position : POSITION0) : POSITION0

{

return mul( Input.Position, matViewProjection );

}

//其对应的汇编代码如下

// matViewProjection c0 4

//

vs_2_0

dcl_position v0

dp4 oPos.x, v0, c0

dp4 oPos.y, v0, c1

dp4 oPos.z, v0, c2

dp4 oPos.w, v0, c3

是不是觉得dp4很亲切呢。对了，就是它。 这意思就是说，我们的c0,c1,c2,c3存放着我们先前讲到的C1 C2 C3 C4。 这就是我们的背景内容，

到此结束。 下面将展开一系列的为什么。

而如下的HLSL代码

float4x4 matViewProjection;

float4 vs_main(float4 Position : POSITION0) : POSITION0

{

return mul(matViewProjection，Input.Position );

}

对应的ASM SHADER如下

mul r0, v0.y, c1

mad r0, c0, v0.x, r0

mad r0, c2, v0.z, r0

mad oPos, c3, v0.w, r0

由此可以看出 此时的C0－C3存放的是一个行矩阵。在此仅为证明 mul(向量，矩阵) 与 mul(矩阵，向量)不是一个东西。

二、HLSL中的row-major matrix picking and column-major matrix picking

HLSL在将矩阵赋值给常量寄存器的时候。有两种方式，一种是每个常量寄存器存放一行的数据，另一种是每个常量寄存器存放着一列的数据。

默认是按列选取（column-major matrix picking）。 

假设有一个矩阵M，其存放位置是从C0寄存器开始。 那么如果我们按行选取（row-major picking）则有

C0 = 11 12 13 14

C1 = 21 22 23 24

C2 = 31 32 33 34

C3 = 41 42 43 44

如果我们按列选取（col-major picking）则有

C0 = 11 21 31 41

C1 = 21 22 32 42

C2 = 31 32 33 43

C3 = 41 42 43 44

三、MUL规则

有了上面的的了解，我们就可以很容易地知道，MUL到底用什么。当然是取决于这两种选取规则。下面我们就逐一讨论。 

在此依然要声明一下， 我们程序中的矩阵是按D3D标准存放。

１、采用SetMatrix, 采用按列选取（col-major picking）

在这样的方式下，若我们将C0－C3按如下排开

C0

C1

C2

C3

则它是一个转入矩阵的转置矩阵。即Cx为先前矩阵的x列

而由我们先前提到的MUL（向量，矩阵）的ASM代码可以得出。 这正是我们想要的。

dp4 oPos.x, v0, c0

dp4 oPos.y, v0, c1

dp4 oPos.z, v0, c2

dp4 oPos.w, v0, c3

于是，在这种方式下，我们采用的是MUL（向量，矩阵）

２、采用SetMatrix,采用按列选取(row-major picking)

在这样的方式下，我们得到的和设置前的矩阵一样。 由此看来，我们得到的矩阵与按行存储的矩阵刚刚是一个转置。 既然是这样，

那大家回忆一下矩阵运算法则

A*B ó BT*AT 

这里若A*B对应的是Mul(向量，矩阵). 其中A为行向量即1Xn的矩阵，矩阵为nXm

那么Mul(矩阵，向量)则真好对应了上面的公式。

注：当向量作为第二个参数是，是一个列向量，即n X 1矩阵

所以，在这种方式下我们采用的是Mul(矩阵，向量)

３、不采用SetMatrix,采用按列选择。

在这样的方式下，相对于一方按，得到的矩阵和2方案相同。

４、不采用SetMatrix,采用按行选择.得到的矩阵和1方案相同。

四、观察矩阵的另类解释和TBN空间的类推

在D3D SDK文档中有一份这样的公式。讲述的是

D3DXMatrixLookAtLH

函数生成的东西。（这是一个左手观察系，采用D3D的行矩阵方式存储）

zaxis = normal(At - Eye)

xaxis = normal(cross(Up, zaxis))

yaxis = cross(zaxis, xaxis)

 

       C1              C2                 C3             C4  

 R1 xaxis.x           yaxis.x           zaxis.x          0

 R2 xaxis.y           yaxis.y           zaxis.y          0

 R3 xaxis.z           yaxis.z           zaxis.z          0

R4 -dot(xaxis, eye)  -dot(yaxis, eye)  -dot(zaxis, eye) 1

计算机图形学书上也讲了如何推导这个矩阵。但貌似依然没有给出为什么这样写就构成了观察矩阵了。 

首先明白观察矩阵的目的是：将一个世界空间的坐标转换到观察坐系中。　即将一个由X,Y,Z轴构成的世界空间的坐标点调整到由摄相机的

上向量、观察方向、右向量的空间中。　在这里，摄相机的右向量（上向量与观察方向的叉乘）等同于世界坐标系中的X轴。　上向量等同

于Y轴，观察方向等同于Z轴。然后，我们试着拿一个点与这个矩阵相乘。

V0*matView

按背景知识中讲到的，我们得到的一个点V1是。

V1.x = V0.x·matView[C1]

V2.y = V0.y·matView[C2]

V3.z = V0.z·matView[C3]

V4.w = V0.w·matView[C4]

 

上面式子中 ·表示dp4

 

在中学的时候我们就学过，点乘表示一个向量在另一个向量上的投影。好吧，我们要的就是这东西。



上面的图中（图太丑了，见笑）　AD即为AC在AB上的投影。

而-dot(xaxis, eye)  -dot(yaxis, eye)  -dot(zaxis, eye)　则是因为摄相机并不在原点，而我们在做投影变换的时候，以原点为观察参考

点会简化很多工作。所以我们的顶点要先把自己移回原点才行。而移的多少，正好是原点到摄相机的位置构成的一个向量在自己各个轴上

的投影。

　

于是，我们可以知道，乘以观察矩阵，　就相当于是把一个点以原点为起点，自己为终点，构造一个向量，然后求出自己在由摄相机的

各个轴构上的投影。最后再根据摄相机位置移回原点的过程。　由于我基本上不会画图，所以大家看起来有些吃力了。请各位见谅。　

但这并不是什么复杂的事情，只要用上点乘是投影的这个理念，自然就想明白了。

 

而我们模型中的T B N信息。按以下方式构造出来的矩阵，则刚好是由模型空间到切线空间的转换。

 

Tx Bx Nx

Ty By Ny

Tz Bz Nz

 

五、HLSL中矩阵的构造（为什么WorldToTargentSpaceMatrix要左乘LightDir）

在我们的NormalMapping等需要转换到切线空间的映射中，常常看到这样的代码

Float3x3 matWorldToTargent = {WorldT,WorldB,WorldN};

又或者

Float3x3 matWorldToTargent;

matWorldToTargent[0] = WorldT;

matWorldToTargent[1] = WorldB;

matWorldToTargent[2] = WorldN;

//float3 LightDir;

LightDirInTS = mul(matWorldToTargent,LightDir);

我也看到网上许多人问这个问题，并且我先前也不是懂。 因为看到的HLSL代码中，并没有出现row-major matrix picking和column-major 

matrix picking转换的代码，也就是说，默认为column-major matrix picking。 当然会想到，我们构造出来的矩阵，其对应的寄存器值正

好是

Cx = WorldT;

Cx+1 = WorldB;

Cx+2 = WroldN;

所以，它刚好是

Tx Bx Nx

Ty By Ny

Tz Bz Nz

的转置，

Tx Ty Tz

Bx By Bz

Nx Ny Nz

应该用LightDirInTS = mul(LightDir，matWorldToTargent);才对。

显然，我们被眼睛深深的欺骗了。

请看如下代码

float4x4 mat;

mat[0] = float4(1,2,3,4);

mat[1] = float4(5,6,7,8);

mat[2] = float4(9,10,11,12);

mat[3] = float4(13,14,15,16);

mul(mat,inPos);

对应的是

def c4, 1, 2, 3, 4

def c5, 5, 6, 7, 8

def c6, 9, 10, 11, 12

def c7, 13, 14, 15, 16

而若将指令改为mul(inPos,mat); 那么常量存放的值为

def c4, 1, 5, 9, 13

def c5, 2, 6, 10, 14

def c6, 3, 7, 11, 15

def c7, 4, 8, 12, 16

并且，上面的数据与HLSL中的矩阵数据picking方式无关。而对矩阵的操作，则都为dp4 pos,cx，也就是说对于mul(inPos,mat);的情况，

相当于是将其转置，再进行dp4操作。 而对于mul(mat,inPos);则是直接进行dp4操作。 而按我们想要的，则第一种情况才满足条件。

 第二种是因为优化导致的先转置再dp4，与前面提到的不转置进行类似于下面的操作是一样的。

mul r0, v0.y, c1

mad r0, c0, v0.x, r0

mad r0, c2, v0.z, r0

mad oPos, c3, v0.w, r0

若我们认定HLSL中构造矩阵是一个常量寄存器装一个mat[i]。即第一种情况。 那么此时想当于得到的是未经转置的矩阵，我们则认为，

T B N在构造后，形成的是一个

Tx Ty Tz

Bx By Bz

Nx Ny Nz

mul(mat,inPos);刚好满足要求。

若我们认定HLSL中构造矩阵的时候，一个常量寄存器不是装一个mat[i] 面是将构造他的float4的各个分量分别存。 即第二种情况。

那么得到的便是

Tx Bx Nx

Ty By Ny

Tz Bz Nz

 

我们想要它实现转换，则必须转置。 而由A*B ó BT*AT ，可知，mul(mat,inPos)即为所求。

第二种认定方案是比较容易让人接受的方案。

花了三个小时的时间来总结这几天纠结的问题，总算有一个收场。　其实还有一些关于RenderMonkey的问题，而有了上面的理解了，

那些已经不是问题了。待有空再继续总结。

附RenderMonkey控制面板