《数学建模算法与应用第二版》——chapter10. 多元分析

1. 聚类分析

1.1 Q聚类

《数学建模算法与应用第二版》——chapter10. 多元分析_第1张图片

《数学建模算法与应用第二版》——chapter10. 多元分析_第2张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第3张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第4张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第5张图片

《数学建模算法与应用第二版》——chapter10. 多元分析_第6张图片

1.2 R型聚类

《数学建模算法与应用第二版》——chapter10. 多元分析_第7张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第8张图片

1.3 案例——各地区普通高等教育发展状况分析

《数学建模算法与应用第二版》——chapter10. 多元分析_第9张图片


《数学建模算法与应用第二版》——chapter10. 多元分析_第10张图片

2. 主成分分析

2.1 基本思想及方法

《数学建模算法与应用第二版》——chapter10. 多元分析_第11张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第12张图片

2.2 特征值因子的筛选

《数学建模算法与应用第二版》——chapter10. 多元分析_第13张图片

2.3 主成分回归分析

《数学建模算法与应用第二版》——chapter10. 多元分析_第14张图片

2.4 主成分分析案例——我国各地区普通高等教育发展水平综合评价

问题与1.3中问题相同。详见教材。

3. 因子分析

因子分析可以看成主成分分析的推广,它也是多元统计分析中常用的一种降维方式,因子分析所涉及的计算与主成分分析也很类似,但差别也是很明显的∶
(1)主成分分析把方差划分为不同的正交成分,而因子分析则把方差划归为不同的起因因子。
(2)主成分分析仅仅是变量变换,而因子分析需要构造因子模型。
(3)主成分分析中原始变量的线性组合表示新的综合变量,即主成分。因子分析中潜在的假想变量和随机影响变量的线性组合表示原始变量。
因子分析与回归分析不同,因子分析中的因子是一个比较抽象的概念,而回归变量有非常明确的实际意义。
因子分析有确定的模型,观察数据在模型中被分解为公共因子、特殊因子和误差三部分。初学因子分析的最大困难在于理解它的模型。先看如下几个例子。

3.1 因子分析模型

《数学建模算法与应用第二版》——chapter10. 多元分析_第15张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第16张图片

3.2 因子载荷矩阵的估计方法

《数学建模算法与应用第二版》——chapter10. 多元分析_第17张图片
在这里插入图片描述
《数学建模算法与应用第二版》——chapter10. 多元分析_第18张图片
在这里插入图片描述

3.3 因子选择(正交变换)

建立因子分析数学模型的目的不仅是要找出公共因子以及对变量进行分组,更重要的是要知道每个公共因子的含义,以便进行进一步的分析,如果每个公共因子的含义不清,则不便于进行实际背景的解释。由于因子载荷矩阵是不唯一的,所以应该对因子载荷矩阵进行旋转。目的是使因子载荷矩阵的结构简化,使载荷矩阵每列或行的元素平方值向0和1两级分化。有三种主要的正交旋转法∶方差最大法、四次方最大法和等量最大法。
(1)方差最大法。方差最大法从简化因子载荷矩阵的每一列出发,使和每个因子有关的载荷的平方的方差最大。当只有少数几个变量在某个因子上有较高的载荷时,对因子的解释最简单。方差最大的直观意义是希望通过因子旋转后,使每个因子上的载荷尽量拉开距离,一部分的载荷趋于±1,另一部分趋于0。
(2)四次方最大旋转。四次方最大旋转是从简化载荷矩阵的行出发,通过旋转初始因子,,使每个变量只在一个因子上有较高的载荷,而在其他的因子上有尽可能低的载荷。如果每个变量只在一个因子上有非零的载荷,这时的因子解释是最简单的。四次方最大法是使因子载荷矩阵中每一行的因子载荷平方的方差达到最大。
(3)等量最大法。等量最大法是把四次方最大法和方差最大法结合起来,求它们的加权平均最大。
对两个因子的载荷矩阵
在这里插入图片描述
《数学建模算法与应用第二版》——chapter10. 多元分析_第19张图片

3.4 因子得分

《数学建模算法与应用第二版》——chapter10. 多元分析_第20张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第21张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第22张图片

3.5 因子分析的步骤与主成分分析的对比

  1. 因子分析的步骤
    (1)选择分析的变量。用定性分析和定量分析的方法选择变量,因子分析的前提条件是观测变量间有较强的相关性,因为如果变量之间无相关性或相关性较小,它们之间就不会有共享因子,所以原始变量间应该有较强的相关性。
    (2)计算所选原始变量的相关系数矩阵。相关系数矩阵描述了原始变量之间的相关关系。这可以帮助判断原始变量之间是否存在相关关系,这对因子分析是非常重要的,因为如果所选变量之间无关系,作因子分析就是不恰当的。并且,相关系数矩阵是估计因子结构的基础。
    (3)提出公共因子。这一步要确定因子求解的方法和因子的个数。需要根据研究者的设计方案以及有关的经验或知识事先确定。因子个数的确定可以根据因子方差的大小。只取方差大于1(或特征值大于1)的那些因子,因为方差小于1的因子其贡献可能很小;按照因子的累计方差贡献率来确定,一般认为要达到60%才能符合要求。
    (4)因子旋转。有时提出的因子很难解释,需要通过坐标变换使每个原始变量在尽可能少的因子之间有密切的关系,这样因子解的实际含义更容易解释,并为每个潜在因子赋予有实际含义的名字。
    (5)计算因子得分。求出各样本的因子得分,有了因子得分值,就可以在许多分析中使用这些因子,例如以因子的得分做聚类分析的变量,做回归分析中的回归因子。
    2.主成分分析法与因子分析法数学模型的异同比较1)相同点
    在以下几方面是相同的∶指标的标准化,相关系数矩阵及其特征值和特征向量,用累计贡献率确定主成分、因子个数m,综合主成分的分析评价、综合因子的分析评价。
    《数学建模算法与应用第二版》——chapter10. 多元分析_第23张图片

3.6 因子分析案例

详见课本

4. 判别分析

4.1 距离判别

《数学建模算法与应用第二版》——chapter10. 多元分析_第24张图片
在这里插入图片描述
《数学建模算法与应用第二版》——chapter10. 多元分析_第25张图片

4.2 fisher判别

《数学建模算法与应用第二版》——chapter10. 多元分析_第26张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第27张图片

4.3 Bayes判别

《数学建模算法与应用第二版》——chapter10. 多元分析_第28张图片

《数学建模算法与应用第二版》——chapter10. 多元分析_第29张图片

在这里插入图片描述

4.4 应用举例

《数学建模算法与应用第二版》——chapter10. 多元分析_第30张图片

5. 典型相关分析

5.1 典型相关分析的基本思想

《数学建模算法与应用第二版》——chapter10. 多元分析_第31张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第32张图片

5.2 典型相关分析的数学描述

《数学建模算法与应用第二版》——chapter10. 多元分析_第33张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第34张图片

5.3 原始变量与典型变量之间的相关性

《数学建模算法与应用第二版》——chapter10. 多元分析_第35张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第36张图片

5.4 典型相关系数的检验

《数学建模算法与应用第二版》——chapter10. 多元分析_第37张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第38张图片

5.5 典型相关分析的案例

(见教材)

6. 对应分析

6.1 对应分析简介


《数学建模算法与应用第二版》——chapter10. 多元分析_第39张图片

6.2 对应分析的原理

《数学建模算法与应用第二版》——chapter10. 多元分析_第40张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第41张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第42张图片

《数学建模算法与应用第二版》——chapter10. 多元分析_第43张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第44张图片

6.3 应用例子

《数学建模算法与应用第二版》——chapter10. 多元分析_第45张图片

6.4 在品牌定位研究中的应用

(见教材)

7. 多维标度法

7.1 引例

在实际中往往会碰到这样的问题∶有n个由多个指标(变量)反映的客体,但反映客体的指标个数是多少不清楚,甚至指标本身是什么也是模糊的,更谈不上直接测量或观察它,所能知道的仅是这n个客体之间的某种距离(不一定是通常的欧几里得距离)或者某种相似性,我们希望仅由这种距离或者相似性给出的信息出发,在较低维的欧几里得空间把这n个客体(作为几何点)的图形描绘出来,从而尽可能揭示这n个客体之间的真实结构关系,这就是多维标度法所要研究的问题。

7.2 经典的多维标度法

《数学建模算法与应用第二版》——chapter10. 多元分析_第46张图片
在这里插入图片描述

《数学建模算法与应用第二版》——chapter10. 多元分析_第47张图片
《数学建模算法与应用第二版》——chapter10. 多元分析_第48张图片

7.3 非度量方法

《数学建模算法与应用第二版》——chapter10. 多元分析_第49张图片

原课本习题及代码

点击下载 【课本 + 源码 】 提取码:92h8

你可能感兴趣的:(《数学建模算法与应用笔记》,聚类,聚类算法,pca降维,数学建模,机器学习)