Kinect 中景深图与彩图对齐研究

Kinect的彩图和景深图两个图是不对齐的，DepthImageFrame提供了MapToColorImagePoint方法用以计算指定景深图坐标所对应的彩图点。原以为从景深图坐标到彩图坐标是仿射变换关系，因此，在对齐时，在景深图指定了三个点（0，0），（0，400），（400，0），计算这三个点对应的彩图坐标，然后再求出变换矩阵，进行坐标变换。昨天客户反应，当人物走到摄像头的右侧时，会出现图像错位现象：

 

怀疑是否是景深图和彩图对齐的问题。下面进行详细测试，对景深图每隔10个像素点进行采样，计算对应的彩图坐标，绘制在同一张图上，景深图坐标为红点，彩图坐标为绿点。
匹配代码：

                     private List<Point> points =  new List<Point>();
                      for ( int x =  0; x <  640; x +=  10)
                     {
                          for ( int y =  0; y <  480; y +=  10)
                         {
                             ColorImagePoint p = depthImageFrame.MapToColorImagePoint(x, y, ColorImageFormat.RgbResolution640x480Fps30);
                             points.Add( new Point(p.X, p.Y));
                             points.Add( new Point(x, y));
                         }
                     }
 

绘制代码：

                        Point[] list = points.ToArray();
                         Bitmap match =  new Bitmap( 640,  480);
                         Graphics g = Graphics.FromImage(match);
                         Pen pen1 =  new Pen(Color.Red,  2);
                         Pen pen2 =  new Pen(Color.Green,  2);
                          int i =  0;
                          foreach (Point p  in list)
                         {
                             i++;
                              if (i %  2 ==  0)
                             {
                                 g.DrawLine(pen1, p,  new Point(p.X +  1, p.Y +  1));
                             }
                              else
                             {
                                 g.DrawLine(pen2, p,  new Point(p.X +  1, p.Y +  1));
                             }
                         }
                         match.Save( " match_ " + timeString +  " .png ", System.Drawing.Imaging.ImageFormat.Png);

其中，timeString 记录的是当前时间。

结果如下：

可以看出，它是一个很复杂的场，用肉眼可以看出有16个特殊位置：

 

不去深究这十六个点时什么。从上面可以看出，这个变换不是仿射变换，无法使用仿射变换矩阵。应该进行逐点变换。KinectSensor类提供了逐点变换的方法：MapDepthFrameToColorFrame。

现在需要了解，景深图和彩图的坐标变换关系是稳定的还是不稳定的呢（随着时间推移，这个变换关系会不会发生改变？），如果是稳定的，我们只需要求一次变换，如果不是稳定的，则需要每次都要求解变换。

将两个不同时间点生成的匹配图拖到photoshop中，将红点对齐，可以发现绿点也是对齐的，只有一张图例外，右上角未对齐，差别也不大：

由此可见，这个对齐关系比较稳定，可以只计算一次，把结果存储起来，坐标变换时，查表就行了。