最近9年最厉害的人工智能算法只是加权平均

原文：https://mp.weixin.qq.com/s/vmYWYUFa56eC-yUFiSqR0w

从网上搜索看，很多人理解“卷积”是困难的。“卷积”这个词，就吓住了很多人。

图1 从网上搜索看，很多人理解“卷积”是困难的

 

有2个原因：

第一，汉语其他地方几乎从不用“卷积”这个词，所以中国人无法理解字面含义；

第二，很多人熟记卷积的公式、在工作中经常使用，但是并不理解卷积的实质含义。

 

理解卷积(Convolution)，是理解卷积神经网络（CNN：Convolutional Neural Network）的关键。也是让我们理解，为什么最近9年（2012-2021），人类最厉害的人工智能算法卷积神经网络，其实只是计算加权平均。

 

理解卷积的词义

 

卷积是英文convolution的翻译，convolution的英文释义是盘绕，弯曲（a twist or curve）。

图2 Convolution的英文释义

 

为了便于理解英文convolution，我们可以和revolution对比：

“revolution”的词根re是“重新”的意思，revolution就是通过“重新创造”带来的变化，即革命、巨变；

苹果重新定义手机即Apple reinvents the phone，即re就是强调“全新”的意思。

 

“Convolution”的词根con是“共同”的意思，即本质不变，但通过转动、旋转、扭曲和弯曲带来的变化。

 

不同于中文，在英语中，convolution是一个可以被用于日常表达，如crosses adorned with elaborate convolutions，用精巧的曲线装饰的十字架。

 

如果“revolution”被翻译为“革变”，那“convolution”可以翻译为“卷变”。

 

所以，“convolution”引申为，本质不变，但是通过“变换”而带来的变化。记住了这个本质词义，后面对于“convolution”的各种花式变种，才会坦然接受，不再疑惑。

 

Convolution的中文翻译是“卷积”，但卷积这个词在现代汉语当中，几乎不在其他地方使用，所以直接理解词义几乎是不可能的。

 

“卷”和convolution有关系的，但是“积”就没有什么关系了。我们推测，卷积这个中文翻译，是对卷积的数学公式做了“形式化”的解读，我们可以简单理解，卷积就是卷起来的乘积，可以理解为累加或叠加（对连续函数为积分）起来的乘积。

 

连续形式：

离散形式：

（函数f和函数g的卷积的计算公式，是累加(或积分)起来的乘积）

 

可以说，正是因为“卷积”这个中文翻译丢掉了“convolution”最本质的词义“本质不变的变换”，而是和具体的计算公式进行绑定，所以，给中国人理解，带来了很大困扰。

 

这导致很多网上解释“卷积”的文章，都是对这个数学公式的形式进行解读，其实是颠倒了因果。

 

卷积实质上是对信号进行滤波

 

我们在大学课本里面就学习过卷积，主要是在《信号系统》当中。当一个信号经过一个系统之后，产生的输出，实际上就是这个输入x(n)和系统的冲击响应h(n)的卷积。

 

图3 系统的框图

延伸阅读：当然，这里要求系统是线性时不变系统（Linear Time-Invariant System），但大家可以不用关注这个，因为我们绝大部分时间只讨论这样的系统。

延伸阅读：这里只需要理解，系统的特性，完全由冲击响应h(n)完整描述了即可。冲击响应在物理世界并不存在，但是它是直接解释卷积公式的关键，见本文附录。详见参考资料[3]的第二章。

 

系统定义为处理（或变换）信号的物理设备。或者进一步说，凡是能将信号加以变换以达到人们要求的各种设备都是系统[1]。

 

信号处理是研究用系统对含