典型相关分析(Canonical Correlation Analysis,CCA)

1.从概率论中相关系数推广而来

  在概率论中,研究两个变量之间的线性相关情况时,提出了 相关系数 这个概念。做一下推广,如果研究一个变量和多个随机变量之间的线性相关关系时,提出了 全相关系数(或者复相关系数)的概念。然后,在1936年,有个叫做hotelling的数学家,又进一步做了推广,研究 多个随机变量和多个随机变量之间的线性相关关系,提出了 经典相关分析 的理论。

2.经典相关分析的定义

  经典相关分析是研究两组变量相关关系的一种多元统计方法

  要研究两组变量之间的相关关系,有两种方法:一、列出一张表,就像研究协方差矩阵一样,这张表中包含两组变量任意两个变量之间的相关关系。然后,就基于这张相关系数表进行分析。 二、像主成份分析pca一样,在每一组变量中,都选取若干综合指标,这些综合指标是由变量线性组合而成。通过研究两组综合指标之间的关系来研究变量之间的线性关系。

3.具体步骤

  寻求每一组变量的线性组合,然后两组变量的线性组合之间具有最大相关性。这中组合不唯一,而且也可能把变量的所有特征全部涵盖。

  继续寻求寻求每一组变量的线性组合,而这一次则要求两组变量的线性组合之间具有最大相关性,而且要与第一次找到的组合不相干。也就是具有一种类似于正交的关系

典型相关分析(Canonical Correlation Analysis,CCA)_第1张图片

  典型相关分析,为什么叫作典型。每一组变量的线性组合得到的新变量,X和Y 称之为典型变量。

4.具体计算过程,如下:

典型相关分析(Canonical Correlation Analysis,CCA)_第2张图片

典型相关分析(Canonical Correlation Analysis,CCA)_第3张图片

【1】https://www.cnblogs.com/haore147/p/3629955.html
【2】https://blog.csdn.net/statdm/article/details/7585113

你可能感兴趣的:(algorithm,CCA)