shader中的法线变换
总结起来有两个，一个是基本的转换，单纯的模型空间转换到世界空间，第二个是需要法线贴图时(Bump Textrue)的时候就转换到切线空间下进行计算。
1.从“模型空间”到“世界空间”（Object To World）：
（1）方法1，使用和“顶点”到“世界”变换矩阵的“逆转置矩阵“对法线进行相同的变换，因此先得到顶点的模型到世界的变换矩阵的“逆矩阵”（Unity_WorldToObject），然后通过调换它在mul函数中的位置，得到和转置矩阵相同的矩阵乘法，由于法线是一个三维矢量，因此我们只需要街截取unity_WorldToObject的前三行前三列：
worldNormal = normalize(mul(v.normal,(float3x3)unity_WorldToObject))
最外侧的运算“normalize(x)”表示归一化。
（2）使用Unity内置的语法“UnityObjectToWorldNormal()”。
这是Unity5.x在中，可以通过“内置着色器”中的“Unity.cginc”中找到相关的用法，截一小段代码：
// Transforms normal from object to world space
inline float3 UnityObjectToWorldNormal( in float3 norm )
{
#ifdef UNITY_ASSUME_UNIFORM_SCALING
return UnityObjectToWorldDir(norm);
#else
// mul(IT_M, norm) => mul(norm, I_M) => {dot(norm, I_M.col0), dot(norm, I_M.col1), dot(norm, I_M.col2)}
return normalize(mul(norm, (float3x3)unity_WorldToObject));
#endif
}
注释已经写的很清楚了“把法线从模型空间变换到世界空间”，里面做了个判断。如果是“统一缩放”那么这个方法用的是“UnityObjectToWorldDir()”，如果是非统一缩放，则用“normalize(mul(norm, (float3x3)unity_WorldToObject)”，这个就是和“方法1”是一模一样的。之所以这种写法，就是为了保证模型“非统一缩放”也不会得到错误的法线。
而Unity封装的这个方法，就解决了，不管模型是不是统一缩放，用这个肯定没有错。在Unity4.x和之前，是不用管是不是统一缩放的，因为当模型缩放后，unity会在背后重新生成一个模型，和缩放后的一样大，从而法线肯定不会错。但是unity5.x及以后，就必须要注意这个问题。
下面看一下在shader中，怎么使用这个方法：
normalDir = UnityObjectToWorldNormal(v.normal)具体的推导公式可以参考冯乐乐的书p86。
1.先得到一个“从切线空间到世界空间”的矩阵。
为什么要这个矩阵？我们平时看到的法线贴图记录的都是切线空间下的法线信息（实质上是坐标信息），我们想要用这张图参与接下来的光照计算，其它的如“顶点坐标”““灯光位置”等等都是在世界空间的，自然的这张图也需要在世界空间才能参与计算。因此需要这个“从切线空间到世界空间”的矩阵，来对这张法线图进行变换。一般的用的矩阵是：
float3x3 tangentTransform = float3x3(i.tangentDir,i.bitangentDir,i.normalDir);
矩阵的三个参数：切线、副切线、法线，注意三个参数要进行归一化！
2.对纹理进行采样
既然是使用纹理，项diffusecolor（basecolor）一样，需要对纹理进行采样，用到两个函数：
TRANSFORM_TEX() //计算贴图的UV
tex2D（）//对纹理进行采样
当然也可以在一步完成如：
packedNormal = tex2D(_BumpMap,TRANSFORM_TEX(i.uv0,_BumpMap))
3.对“法线贴图”进行解包（Unpack）操作。
（1）上面说到法线贴图记录的是切线空间下的法线信息。而“法线贴图”本身从名字来看，它本身是张图，既然是图，也就是意味着它记录的是颜色信息（RGB）。所以法线贴图本身是有一个映射关系的。
法线本身分量是在[-1,1]，而法线贴图（RGB）是以像素为单位的，像素的范围是[0,1]，法线变成法线图，必然有个映射关系,那就是“pixel = (normal + 1) / 2”。
（2）另外这个公式还可以解释为什么法线贴图是浅蓝色的，因为法线图是切线空间下的，而切线空间下的法线基本上都在“顶点的切线空间的Z轴方向”扰动，也就是基本上都是（0,0,1）。带入公式，像素值=（0.5,0.5,1）
这个值正是浅蓝色。
（3）既然法线贴图要参与下面的计算，就要映射回去，由上面的公式逆推一下，法线=pixel * 2 - 1，带入公式计算：
//接着上面的代码：
float3 tangentNormal
tangentNormal.xy = (packedNormal.xy * 2 - 1) * _BumpScale;
tangentNormal.z = sqrt(1.0 - saturate(dot(tangentNormal.xy, tangentNormal.xy)));
①上面第一句的意思是首先把“法线贴图”的xy分量按公式映射回法线方向，然后乘以_MumpScale（控制法线强度的值）来得到切线空间下法线的 x y分量。
②第二句意思是：由x y分量，计算Z分量。这是由于法线是单位矢量，所以Z分量可以这么计算。由于我们使用的是切线空间下的法线贴图，因此可以保证法线的Z分量为正（可以参考下面的图）
image.png
（4）理论上这么做是可以的。但是Unity为了优化贴图，在进行“反映射”的同时对纹理进行了压缩优化。具体操作就是把导入的法线贴图，在其属性面板中，把选项标记成“NormalMap”这个操作（即使你不标记，Unity也会提醒你的），在shader中的体现就是“UnpackNormal（）”函数。这个函数把压缩贴图和“反映射”同步进行了，具体的可以参考“UnityCG.cginc”下面的定义：
inline fixed3 UnpackNormalDXT5nm (fixed4 packednormal)
{
fixed3 normal;
normal.xy = packednormal.wy * 2 - 1;
normal.z = sqrt(1 - saturate(dot(normal.xy, normal.xy)));
return normal;
}
inline fixed3 UnpackNormal(fixed4 packednormal)
{
#if defined(UNITY_NO_DXT5nm)
return packednormal.xyz * 2 - 1;
#else
return UnpackNormalDXT5nm(packednormal);
#endif
}
①可以看到“UnpackNormal（）”函数包含了“UnpackNormalDXT5nm（）函数”，“UnpackNormal（）”函数里面只是做了一个简单的判断（判断是否进行纹理压缩），而真正进行计算的是“UnpackNormalDXT5nm（）函数” 其中“DXT5”应该看着很眼熟，它正是压缩方法的其中一种。
②“具体的细节是：把“w”分量（纹理的a通道）对应法线的 x 分量。g通道对应了法线的y分量，而纹理的r和b通道则会被舍弃，法线的Z分量可以由x y 推导得出。更具体的细节以后再看吧。可以看到“UnpackNormalDXT5nm（）函数”的输入参数是“packednormal”，（采样后的法线贴图），但是“packednormal”的参数只有RGB，没有w y 所以可以推断这个压缩过程是在外部进行的。而“UnpackNormalDXT5nm（）函数”只是对压缩后的“packednormal”新的RGB进行反映射。
（5）反映射后，如果还想要调节法线的强度，同样的还需要乘上调节强度的参数（_BumpScale）具体可以这样写：
fixed3 tangentNormal;
tangentNormal = UnpackNormal(packedNormal);
tangentNormal.xy *= _BumpScale;
tangentNormal.z = sqrt(1.0 - saturate(dot(tangentNormal.xy, tangentNormal.xy)));
可以看到只是把（3）手动映射的计算，换成UnpackNormal(）操计算。这样才能保证得到的正确法的法线。
这里还要提一句：不能把得到的“tangentNormal”直接带入“反映射公式”去计算，如：
tangentNormal = tangentNormal.xyz * 2-1，因为Z分量是由 x y 分量推导出来的。
4.得到反映射的法线后，就可以 用“1”得到的变换矩阵去变换了：
float3 normalDirection = normalize(mul(tangentNormal,tangentTransform));
//用矩阵变换后，执行归一化
5.到这里，需要用法线贴图的基本shader的法线变换就讲完了。
转载链接：https://www.jianshu.com/p/c6a94d3b64bc