Tensorflow Keras 中input_shape引发的维度顺序冲突问题（NCHW与NHWC)

Tensorflow Keras 中input_shape引发的维度顺序冲突问题（NCHW与NHWC)

原文链接：Tensorflow Keras 中input_shape引发的维度顺序冲突问题（NCHW与NHWC)

以tf.keras.Sequential构建卷积层为例：

tf.keras.layers.Conv2D(10, 3, input_shape=(2, 9, 9),padding='same',activation=tf.nn.relu,kernel_initializer='glorot_normal',
        bias_initializer='glorot_normal'),

这是一个简单的卷积层的定义，主要看input_shape参数：

这是用来指定卷积层输入形状的参数，由于Keras提供了两套后端，Theano和Tensorflow，不同的后端使用时对该参数所指代的维度顺序dim_ordering会有冲突。

• Theano(th)：

  • NCHW：顺序是 [batch, in_channels, in_height, in_width]

• Tensorflow(tf)：keras默认使用这种方式

  • NHWC：顺序是 [batch, in_height, in_width, in_channels]

即对于上述input_shape=(2, 9, 9)来说：我们先忽略batch，2会被解析为通道数，矩阵大小为9*9，符合我们预期。而tf会将矩阵大小解析为2 * 9 ，且最后一位9代表通道数，与预期不符。

解决

法一：

在卷积层定义中加入参数来让keras在两种后端之间切换：

• data_format='channels_first'：代表th
• data_format='channels_last'：代表tf

但是该法在某些时候不成功会报错：

或许是cpu电脑导致的，只支持NHWC即tf模式。

只能修改相应文件的配置来使其支持NCHW，参考这里：https://github.com/balancap/SSD-Tensorflow/issues/226

---

法二：(推荐)

使用tf.transpose函数进行高维数据的转置（维度大于2，轴的转换）

如将上述(2,9,9)转为(9,9,2)并且是以2为通道数，即矩阵为9*9，而不是像reshape函数简单的调整维度，若使用reshape函数来转换，只会得到通道数为9，矩阵为9 * 2的数据。

tf.transpose(待转矩阵,(1,2,0))

解释：

​ 其中0，1，2…是原矩阵维度从左到右轴的标号，即（2，9，9）中三个维度分别对应标号0，1，2。而调整过后将标号顺序变为1，2，0 即是把表通道数的轴置于最后，这样转置后的矩阵就满足了keras的默认tf后端。即可正常训练。