感知机中为什么不能处理异或 | 什么是gram矩阵

1 什么是异或问题，为什么感知机不能表示？

不光单层感知机不可以，所以线性分类器都不可以。

对于其他情况则可以分类

2 什么是gram矩阵？

前置知识：协方差和相关系数矩阵

对于上面的矩阵，就是两两向量直接做内积，也就是矩阵相乘。上面的矩阵是自己乘以自己。所以，

Gram矩阵和协方差矩阵的差别在于，Gram矩阵没有白化，也就是没有减去均值，直接使用两向量做内积。

Gram矩阵和相关系数矩阵的差别在于，Gram矩阵既没有白化，也没有标准化（也就是除以两个向量的标准差）。

这样，Gram所表达的意义和协方差矩阵相差不大，只是显得比较粗糙。两个向量的协方差表示两向量之间的相似程度，协方差越大越相似。对角线的元素的值越大，表示其所代表的向量或者说特征越重要。

协方差 相关系数

如果从 协方差 和 相关系数 看，东西就多了

协方差 cov(X,Y)=E[(X−μx)(Y−μy)] c o v ( X , Y ) = E [ ( X − μ x ) ( Y − μ y ) ]

相关系数 ρ=cov(X,Y)σxσy ρ = c o v ( X , Y ) σ x σ y

相关系数也可以看成协方差：一种剔除了两个变量量纲影响、标准化后的特殊协方差。

内积空间

设V是一个非空集合，P是一个域。若：……
则称V为域P上的一个线性空间，或向量空间

也就是说向量空间的对象是非空集合

一个实数或复数向量空间加上长度概念。就是范数称为赋范向量空间。
一个实数或复数向量空间加上长度和角度的概念，称为内积空间。
一个向量空间加上拓扑学符合运算的（加法及标量乘法是连续映射）称为拓扑向量空间。
一个向量空间加上双线性算子（定义为向量乘法）是个域代数