《多元统计分析与R语言建模》王斌会 第四版 第一章
后期会把每一章的学习笔记链接加上
Codes, datas, slices and e-book of this book:
链接：https://pan.baidu.com/s/16gIeR3xxL1DTGHe2kpP39A
提取码：jtag
目录
一、定义
多元统计分析 是研究多个随机变量之间相互依赖关系及其内在统计规律的一门学科
在统计学的基本内容汇总，只考虑一个或几个因素对一个观测指标（变量）的影响大小的问题，称为一元统计分析。
若考虑一个或几个因素对两个或两个以上观测指标（变量）的影响大小的问题，或者多个观测指标（变量）的相互依赖关系，既称为多元统计分析。
二、应用
1. 变量之间的相依性分析
- 使用简单相关分析、偏相关分析、复相关分析和典型相关分析技术
2. 构造预测模型，进行预报控制。
有两大类，包括：
- 预测预报模型，通过采用多元回归或逐步回归分析、非线性回归、判别分析等建模技术
- 描述性模型，通过采用综合评价的分析技术
3. 进行数值分类，构造分类模型。
将数据归类，找出他们之间的联系和内在规律。
构造分类模型一般采用聚类分析和判别分析技术
4. 简化系统结构，探讨系统内核
在众多因素中找出各个变量中最佳的子集合，根据子集合所包含的信心描述多元系统的结果及各个因子对系统的影响，舍弃次要因素，以简化系统结构，认识系统的内核（有点做单细胞降维的意思）
可采用 主成分分析、因子分析、对应分析 等方法。
三、内容
多元统计分析的内容主要有:多元数据图示法、多元线性相关与回归分析、判别分析、聚类分析、主成分分析、因子分析、对应分析及典型相关分析等。
1. 多元数据的数学表示
多元数据是指具有多个变量的数据。如果将每个变量看作一个随机向量的话，多个变量形成的数据集将是一个随机矩阵，所以多元数据的基本表现形式是一个矩阵。对这些数据矩阵进行数学表示是我们的首要任务。也就是说，多元数据的基本运算是矩阵运算，而R语言是一个优秀的矩阵运算语言，这也是我们应用它的一大优势。
2. 多元数据的直观分析
直观分析即图示法，是进行数据分析的重要辅助手段。例如，通过两变量的散点图可以考察异常的观察值对样本相关系数的影响，利用矩阵散点图可以考察多元之间的关系，利用多元箱尾图可以比较几个变量的基本统计量的大小差别。
3. 相关分析
相关分析就是通过对大量数字资料的观察，消除偶然因素的影响，探求现象之间相关关系的密切程度和表现形式。在经济系统中，各个经济变量常常存在内在的关系。例如，经济增长与财政收人、人均收入与消费支出等。在这些关系中，有一些是严格的函数关系，这类关系可以用数学表达式表示出来。还有一些是非确定的关系，一个变量产生变动会影响其他变量，使其产生变化。这种变化具有随机的特性，但是仍然遵循一定的规律。函数关系很容易解决，而那些非确定的关系，即相关关系，才是我们所关心的问题。
4. 回归分析
回归分析研究的主要对象是客观事物变量间的统计关系。它是建立在对客观事物进行大量实验和观察的基础上，用来寻找隐藏在看起来不确定的现象中的统计规律的方法。回归分析不仅可以揭示自变量对因变量的影响大小，还可以用回归方程进行预测和控制。回归分析的主要研究范围包括:
(1) 线性回归模型: 一元线性回归模型，多元线性回归模型。
(2) 回归模型的诊断: 回归模型基本假设的合理性，回归方程拟合效果的判定，选择回归函数的形式。
(3) 广义线性模型: 含定性变量的回归，自变量含定性变量，因变量含定性变量。
(4) 非线性回归模型: 一元非线性回归，多元非线性回归。
在实际研究中，经常遇到一个随机变量随一个或多个非随机变量的变化而变化的情况，而这种变化关系明显呈非线性。怎样用一个较好的模型来表示，然后进行估计与预测，并对其非线性进行检验就成为--个重要的问题。在经济预测中，常用多元回归模型反映预测量与各因素之间的依赖关系，其中，线性回归分析有着广泛的应用。但客观事物之间并不一定呈线性关系，在有些情况下，非线性回归模型更为合适，只是建立起来较为困难。在实际的生产过程中，生产管理目标的参量与加工数量存在相关关系。随着生产和加工数量的增加，生产管理目标的参量（如生产成本和生产工时等）大多不是简单的线性增加，此时，需采用非线性回归分析进行分析。
5. 广义与一般线性模型
鉴于统计模型的多样性和各种模型的适应性，针对因变量和解释变量的取值性质，可将统计模型分为多种类型。通常将自变量为定性变量的线性模型称为一般线性模型，如实验设计模型、方差分析模型; 将因变量为非正态分布的线性模型称为广义线性模型，如 Logistic回归模型、对数线性模型、Cox比例风险模型。
1972年，Nelder对经典线性回归模型作了进一步的推广，建立了统一的理论和计算框架，对回归模型在统计学中的应用产生了重要影响。这种新的线性回归模型称为广义线性模型( generalized linear models，GLM)。
广义线性模型是多元线性回归模型的推广，从另一个角度也可以看作是非线性模型的特例，它们具有--些共性，是其他非线性模型所不具备的。它与典型线性模型的区别是其随机误差的分布不是正态分布，与非线性模型的最大区别则在于非线性模型没有明确的随机误差分布假定，而广义线性模型的随机误差的分布是可以确定的。广义线性模型不仅包括离散变量，也包括连续变量。正态分布也被包括在指数分布族里，该指数分布族包含描述发散状况的参数，属于双参数指数分布族。
6. 判别分析
判别分析是多元统计分析中用于判别样本所属类型的一种统计分析方法。所谓判别分析法，是在已知的分类之下，一旦有新的样品时，可以利用此法选定一个判别标准，以判定将该新样品放置于哪个类别中。判别分析的目的是对已知分类的数据建立由数值指标构成的分类规则，然后把这样的规则应用到未知分类的样品中去分类。例如，我们获得了患胃炎的病人和健康人的一些化验指标，就可以从这些化验指标中发现两类人的区别。把这种区别表示为一个判别公式，然后对那些被怀疑患胃炎的人就可以根据其化验指标用判别公式来进行辅助诊断。
7. 聚类分析
聚类分析是研究物以类聚的--种现代统计分析方法。过去人们主要靠经验和专业知识作定性分类处理，很少利用数学方法，致使许多分类带有主观性和任意性，不能很好地揭示客观事物内在的本质差别和联系，特别是对于多因素、多指标的分类问题，定性分类更难以实现准确分类。为了克服定性分类的不足，多元统计分析逐渐被引人到数值分类学中，形成了聚类分析这个分支。
聚类分析是一种分类技术，与多元分析的其他方法相比，该方法较为粗糙，理论上还不完善，但应用方面取得了很大成功。聚类分析与回归分析、判别分析一起被称为多元分析的三个主要方法。
8. 主成分分析
在实际问题中，研究多变量问题是经常遇到的，然而在多数情况下，不同变量之间有一定相关性，这必然增加了分析问题的复杂性。主成分分析就是一种通过降维技术把多个指标化为少数几个综合指标的统计分析方法。如何将具有错综复杂关系的指标综合成几个较少的成分，使之既有利于对问题进行分析和解释，又便于抓住主要矛盾作出科学的评价，此时便可以用主成分分析方法。
9. 因子分析
因子分析是主成分分析的推广，它也是一种把多个变量化为少数几个综合变量的多元分析方法，但其目的是用有限个不可观测的隐变量来解释原变量之间的相关关系。主成分分析通过线性组合将原变量综合成几个主成分，用较少的综合指标来代替原来较多的指标（变量)。在多元分析中，变量间往往存在相关性，是什么原因使变量间有关联呢? 是否存在不能直接观测到的但影响可观测变量变化的公共因子呢?
因子分析就是寻找这些公共因子的统计分析方法，它是在主成分的基础上构筑若干意义较为明确的公因子，以它们为框架分解原变量，以此考察原变量间的联系与区别。例如，在研究糕点行业的物价变动中，糕点行业品种繁多、多到几百种甚至上千种，但无论哪种样式的糕点,用料不外乎面粉、食用油、糖等主要原料。那么，面粉、食用油、糖就是众多糕点的公共因子，各种糕点的物价变动与面粉、食用油、糖的物价变动密切相关，要了解或控制糕点行业的物价变动，只要抓住面粉、食用油和糖的价格即可。
10. 对应分析
对应分析又称为相应分析，由法国统计学家J.P.Beozecri于 1970年提出。对应分析是在因子分析基础之上发展起来的一种多元统计方法，是Q型和R型因子分析的联合应用。在经济管理数据的统计分析中，经常要处理三种关系，即样品之间的关系（Q型关系)、变量间的关系（R型关系）以及样品与变量之间的关系（对应型关系)。例如，对某一行业所属的企业进行经济效益评价时，不仅要研究经济效益指标间的关系，还要将企业按经济效益的好坏进行分类，研究哪些企业与哪些经济效益指标的关系更密切一些，为决策部门正确指导企业的生产经营活动提供更多的信息。这就需要有一种统计方法，将企业（样品〉和指标（变量）放在一起进行分析、分类、作图，便于作经济意义.上的解释。解决这类问题的统计方法就是对应分析。
11. 典型相关分析
在相关分析中，当考察的一组变量仅有两个时，可用简单相关系数来衡量它们;当考察的一组变量有多个时，可用复相关系数来衡量它们。大量的实际问题需要我们把指标之间的联系扩展到两组变量，即两组随机变量之间的相互依赖关系。典型相关分析就是用来解决此类问题的一种分析方法。它实际上是利用主成分的思想来讨论两组随机变量的相关性问题，把两组变量间的相关性研究化为少数几对变量之间的相关性研究，而且这少数几对变量之间又是不相关的，以此来达到化简复杂相关关系的目的。
典型相关分析在经济管理实证研究中有着广泛的应用，因为许多经济现象之间都是多个变量对多个变量的关系。例如，在研究通货膨胀的成因时，可把几个物价指数作为一组变量，把若干个影响物价变动的因素作为另一组变量，通过典型相关分析找出几对主要综合变量，结合典型相关系数对物价上涨及通货膨胀的成因，给出较深刻的分析结果。
12. 多维标度法
多维标度分析（ multidimensional scaling，MDS）是以空间分布的形式表现对象之间相似性或亲疏关系的一种多元数据分析方法。1958年，Torgerson 在其博士论文中首次正式提出这一方法。MDS分析多见于市场营销，近年来在经济管理领域的应用日趋增多,但国内在这方面的应用报道极少。多维标度法通过一系列技巧，使研究者识别构成受测者对样品的评价基础的关键维数。例如，多维标度法常用于市场研究中，以识别构成顾客对产品、服务或者公司的评价基础的关键维数。其他的应用如比较自然属性（比如食品口味或者不同的气味)，对政治候选人或事件的了解，甚至评估不同群体的文化差异。多维标度法通过受测者所提供的对样品的相似性或者偏好的判断推导出内在的维数。一旦有数据，多维标度法就可以用来分析:①评价样品时受测者用什么维数;②在特定情况下受测者可能使用多少维数;③每个维数的相对重要性如何;④如何获得对样品关联的感性认识。
13. 综合评价方法
20世纪七八十年代，是现代科学评价蓬勃兴起的年代，在此期间产生了很多种评价方法，如ELECTRE法、多维偏好分析的线性规划法（LINMAP)、层次分析法（AHP)、数据包络分析法（EDA）及逼近于理想解的排序法（TOPSIS)等，这些方法到现在已经发展得相对完善了，而且它们的应用也比较广泛。
而我国现代科学评价的发展则是在20世纪八九十年代，对评价方法及其应用的研究也取得了很大的成效，把综合评价方法应用到了国民经济各个部门，如可持续发展综合评价、小康评价体系、现代化指标体系及国际竞争力评价体系等。
多指标综合评价方法具有以下特点:包含若干个指标，分别说明被评价对象的不同方面 ;评价方法最终要对被评价对象作出一个整体性的评判，用一个总指标来说明被评价对象的一般水平。
目前常用的综合评价方法较多，如综合评分法、综合指数法、秩和比法、层次分析法、TOPSIS法、模糊综合评判法、数据包络分析法等。
四、分析工具
R -- 永远滴神~