特征融合-route（即concatenate）与shortcut（pointwise addition）异同

在各个网络模型中，ResNet，FPN等采用的element-wise add来融合特征，而DenseNet等则采用concat来融合特征。那add与concat形式有什么不同呢？事实上两者都可以理解为整合特征图信息。只不过concat比较直观，而add理解起来比较生涩。

concat每个通道对应着对应的卷积核。 concate就是将原始特征直接拼接，让网络去学习，应该如何融合特征，这个过程中信息不会损失。
而add形式则将对应的特征图相加，再进行卷积操作，相当于加了一个先验：对应通道的特征图语义类似，从而对应的特征图共享一个卷积核。
因此add可以认为是特殊的concat形式。但是add的计算量要比concat的计算量小得多,更节省参数和计算量

ref
https://blog.csdn.net/LoseInVain/article/details/88363776
https://blog.csdn.net/xys430381_1/article/details/88370733
https://www.zhihu.com/question/306213462