机器学习1——核函数

如何证明一个函数为核函数？

1、数学基础

• 特征值与特征向量

设A是n阶方阵，如果数λ和n维非零列向量x使关系式Ax=λx成立，那么这样的数λ称为矩阵A特征值，非零向量x称为A的对应于特征值λ的特征向量。式Ax=λx也可写成( A-λE)X=0。这是n个未知数n个方程的齐次线性方程组，它有非零解的充分必要条件是系数行列式| A-λE|=0。

• 实对称矩阵

实对称矩阵 (来自百度百科)
如果有n阶矩阵A，其矩阵的元素都为实数，且矩阵A的转置等于其本身（aij=aji）(i,j为元素的脚标），则称A为实对称矩阵。
中文名 实对称矩阵 外文名 symmetric matrices
主要性质：
1.实对称矩阵A的不同特征值对应的特征向量是正交的。
2.实对称矩阵A的特征值都是实数，特征向量都是实向量。
3.n阶实对称矩阵A必可相似对角化，且相似对角阵上的元素即为矩阵本身特征值。
4.若A具有k重特征值λ0　必有k个线性无关的特征向量，或者说秩r(λ0E-A)至多为n-k，其中E为单位矩阵。

• 对称函数、半正定矩阵（核函数涉及）、

2、核函数

• 核函数的本质

核函数和映射没有关系。核函数只是用来计算映射到高维空间之后的内积的一种简便方法。

• 函数作为核函数的充分条件:Mercer定理
  核方法

• 函数作为有效核函数的必要条件：

该核函数矩阵K是对称半正定的
核函数的充要条件

3、例子

• 数学基础：双曲函数