多元统计分析整理版

《多元统计分析整理版》由会员分享，可在线阅读，更多相关《多元统计分析整理版（9页珍藏版）》请在装配图网上搜索。

1、-1、主成分分析的目的是什么.主成分分析是考虑各指标间的相互关系，利用降维的思想把多个指标转换成较少的几个相互独立的、能够解释原始变量绝大局部信息的综合指标，从而使进一步研究变得简单的一种统计方法。它的目的是希望用较少的变量去解释原始资料的大局部变异，即数据压缩，数据的解释。常被用来寻找判断事物或现象的综合指标，并对综合指标所包含的信息进展适当的解释。2、主成分分析根本思想.主成分分析就是设法将原来指标重新组合成一组新的互相无关的几个综合指标来代替原来指标。同时根据实际需要从中选取几个较少的综合指标尽可能多地反映原来的指标的信息。l 设p个原始变量为 ，新的变量(即主成分)为 ， 主成分和原始

2、变量之间的关系表示为?3、在进展主成分分析时是否要对原来的p个指标进展标准化.SPSS软件是否能对数据自动进展标准化.标准化的目的是什么.需要进展标准化，因为因素之间的数值或者数量级存在较大差距，导致较小的数被淹没，导致主成分偏差较大，所以要进展数据标准化；进展主成分分析时SPSS可以自动进展标准化；标准化的目的是消除变量在水平和量纲上的差异造成的影响。求解步骤n 对原来的p个指标进展标准化，以消除变量在水平和量纲上的影响n 根据标准化后的数据矩阵求出相关系数矩阵n 求出协方差矩阵的特征根和特征向量n 确定主成分，并对各主成分所包含的信息给予适当的解释版本二：根据我国31个省市自治区2006年

3、的6项主要经济指标数据，表二至表五，是SPSS的输出表，试解释从每表可以得出哪些结论，进展主成分分析，找出主成分并进展适当的解释：下面是SPSS的输出结果，请根据结果写出结论表一：数据输入界面表二：数据输出界面a此表为相关系数矩阵，表示的是各个变量之间的相关关系，说明变量之间存在较强的相关系数，适合做主成分分析。观察各相关系数，假设相关矩阵中的大局部相关系数小于0.3，则不适合作因子分析。表三为各成分的总解释方差表。ponent为各成分的序号；initial Eigenvalues是初始特征值，total是各成分的特征值，% of variance是各成分的方差占总方差的百分比奉献率。Cumu

4、lative%是累计奉献率，说明前几个成分可以解释总方差的百分数。E*traction sums 是因子提取结果。一般来说，当特征根需大于1，主成分的累计方差奉献率到达80%以上的前几个主成分，都可以选作最后的主成分。由表可知，第一个主成分的特征根为3.963，方差奉献率为66.052%，这表示第一个主成分解释了原始6个变量66.052%的信息，可以看出前两个成分所解释的方差占总方差的95.57%，仅丧失了4.43%的信息。因此最后结果是提取两个主成分。在e*traction sums of squared loadings一栏，自动提取了前两个公因子，因为前两个公因子就可以解释总方差的绝大局

5、部95.6%。表四是表示各成分特征值的碎石图。可以看出因子1与因子2，以及因子2与因子3之间的特征值之差值比拟大。而因子3、4、5之间的特征值差值都比拟小，可以初步得出保存两个因子将能概括绝大局部信息。明显的拐点为3，因此提取2个因子比拟适宜。证实了表三中的结果。碎石图(Scree Plot)，从碎石图可以看到6个主轴长度变化的趋势。实践中，通常选择碎石图中变化趋势出现拐点的前几个主成分作为原先变量的代表，该例中选择前两个主成分即可。表五是初始提取的成分矩阵，它显示了原始变量与各主成分之间的相关系数，表中的每一列表示一个主成分作为原来变量线性组合的系数，也就是主成分分析模型中的系数aij。比方

6、，第一主成分所在列的系数0.670表示第1个主成分和原来的第一个变量(人均GDP)之间的线性相关系数。这个系数越大，说明主成分对该变量的代表性就越大。第一主成分ponent 1对财政收入，固定资产投资，社会消费品零售总额有绝对值较大的相关系数；第二主成分ponent 2对人均gdp，年末总人口，居民消费水平有绝对值较大的相关系数。可以分别对其进展命名。版本一：根据我国31个省市自治区2006年的6项主要经济指标数据，进展因子分析，对因子进展命名和解释，并计算因子得分和排序。表一数据输入界面：表二因子分析SPSS输出界面aKMO统计量为0.695，接近0.7，说明6个变量之间有较强的相关关系。适

7、合作因子分析。Bartlett球度检验 统计量为277.025。检验的P值接近0，拒绝原假设，认为相关系数与单位阵有显著差异。可以因子分析。表三因子分析SPSS输出界面b表三为公因子提取前和提取后的共同度表，initial列提取因子前的各变量的共同度；e*traction列是按特定条件如特征值1提取公因子时的共同度，表中的共同度都很高，说明提取的成分能很好的描述这些变量。所有变量的共同度量都在80%以上，因此，提取出的公因子对原始变量的解释能力应该是很强的。变量*i的信息能够被k个公因子解释的程度表四因子分析SPSS输出界面c表四为各成分的总解释方差。ponent表示按特征值大小排序的因子编号

8、。Initial下分别给出了相关系数矩阵的特征值、方差奉献率和累计方差奉献率。E*traction是所提取的公因子未经旋转情况下的特征值，方差奉献了和累计方差奉献率。 Rotation项下是旋转后的。“Rotation Sums of Squared Loadings局部是因子旋转后对原始变量方差的解释情况。旋转后的累计方差没有改变，只是两个因子所解释的原始变量的方差发生了一些变化。95.57%说明提取的两个公共因子的方差可以解释总方差的95.57%。第j个公因子对变量*i的提供的方差总和，反映第j个公因子的相对重要程度旋转后成分矩阵。第一个因子与年末总人口、固定资产投资、社会消费品零售总额、

9、财政收入这几个载荷系数较大，主要解释了这几个变量。从实际意义上看，可以把因子1姑且命名为“经济水平因子。而第二个因子与人均GDP、居民消水平这两个变量的载荷系数较大，主要解释了这两个变量，从实际意义看，可以将因子2姑且命名为“消费水平因子表五是因子得分系数矩阵。根据因子得分和原始变量的标准化值可计算每个观测量的各因子的分数。4、因子分析根本思想.因子分析是利用降维的思想，由研究原始变量相关矩阵部的依赖关系出发，把一些具有错综复杂关系的变量归结为少数几个综合因子的一种多变量统计分析方法。因子分析的根本思想是根据相关性的大小将原始变量分组，使得组的变量之间相关性较高，而不同组的变量之间相关性较低。

10、每组变量代表一个根本构造，并用一个不可观测的综合变量表示，这个根本构造就称为公共因子。对于所研究的*一具体问题，原始变量可以分解为两局部之和的形式，一局部是少数几个不可测的所谓公共因子的线性函数，另一局部是与公共因子无关的特殊因子。l 设p个原始变量为 ，要寻找的m个因子(mk)为 ，因子和原始变量之间的关系表达式为.系数aij为第个i变量与第k个因子之间的线性相关系数，反映变量与因子之间的相关程度，也称为载荷(loading)。由于因子出现在每个原始变量与因子的线性组合中，因此也称为公因子。e为特殊因子，代表公因子以外的因素影响5、因子分析的目的是什么.因子分析是从多个变量指标中选择出少数几

11、个综合变量指标，以较少的几个因子反映原始资料的大局部信息的一种降维的多元统计方法。求解步骤1) 对原始数据标准化2) 建立相关系数矩阵R因子提取3) 求R的单位特征根与特征向量U；4) 因子旋转求因子载荷矩阵A；5) 写出因子模型*=AF+E 6建立因子得分矩阵P7写出因子得分模型F=P*(因子提取的方法：主成分法、不加权最小平方法、加权最小平方法、最大似然法、主轴因子法;旋转方法为：方差最大正交旋转、四次方最大正交旋转、平方最大正交旋转、斜交旋转、Proma*：该方法在方差最大正交旋转的根底上进展斜交旋转)6、什么是变量共同度.写出变量共同度的表达式。变量*i的信息能够被k个公因子解释的程度

12、，用 k个公因子对第i个变量*i的方差奉献率表示7、什么是公共因子方差奉献率.写出公共因子方差奉献率表达式。第j个公因子对变量*i的提供的方差总和，反映第j个公因子的相对重要程度8、因子分析中KMO检验主要检验什么.KMO越接近1，变量间的相关性越强KMO在0.8以上，说明该问题适合做因子分析。KMO统计量在0.7以上时，因子分析效果较好；KMO统计量在0.5以下时，因子分析效果很差KMOKaiser-Meyer-Olkin)检验统计量是用于比拟原始变量间简单相关系数和偏相关系数的指标。当所有变量间的简单相关系数平方和远远大于偏相关系数平方和时，KMO值接近1，KMO越接近1，变量间的相关性越

13、强。当所有变量间的简单相关系数平方和接近0时，KMO值接近0.KMO值越接近于0,意味着变量间的相关性越弱，原有变量越不适合作因子分析。Kaiser给出了常用的kmo度量标准：0.9以上表示非常适合；0.8表示适合；0.7表示一般；0.6表示不太适合；0.5以下表示极不适合。Bartlett球度检验：以变量的相关系数矩阵为根底，假设相关系数矩阵是单位阵(对角线元素不为0，非对角线元素均为0)。如果相关矩阵是单位阵，则各变量是独立的，无法进展因子分析。9、因子分析中公因子个数确定的依据是什么.用公因子方差奉献率提取：一般累计方差奉献率到达80%以上的前几个因子可以作为最后的公因子用特征根提取：一

14、般要求因子对应的特征根要大于1，因为特征根小于1说明该公因子的解释力度太弱，还不如使用原始变量的解释力度大碎石图中变化趋势出现拐点的前几个主成分10、因子分析中因子旋转(factor rotation)的目的是什么.什么是因子得分(factor score).因子旋转的目的使得因子载荷系数尽可能两极分化，使因子载荷系数向1或0靠近，使得*一个变量值在*一个因子上的载荷系数大，从而更清楚地看出各因子与原始变量的相关性大小，使因子的含义更加清楚，以便于对因子的命名和解释。因子得分就是每个观测量的共同因子的值。根据因子得分系数和原始变量的标准化值可以计算每个观测量的各因子的分数，因子得分=*1*对应

15、权重+*2*对应权重+*n*对应权重，根据因子得分我们可以写出因子表达式。因子得分是各变量的线性组合 11、简述因子分析与主成分分析的区别。主成分分析和因子分析是两种把变量维度降低以便于描述、理解和分析的方法。1 在SPSS分析中，因子分析必须进展因子旋转，主成分分析不一定要旋转。故公共因子往往可以找到实际意义，而主成分一般不能解释实际意义；2 因子分析法是对你所分析的变量的抽取因子，主成分分析法是对你所分析的变量的概括指标；3 因子模型中除了公共因子还有特殊因子，公共因子只解释了原变量的局部方差，而主成分解释了原变量全部方差；4 因子分析是把变量表示成各因子的线性组合，而主成分则是把主成分表

16、示成各变量的线性组合；5 主成分分析中不需要有一些专门假设，因子分析则需要一些假设。因子分析的假设包括：各个共同因子之间不相关，特殊因子之间也不相关，共同因子和特殊因子之间也不相关；6 提取主因子的方法不仅有主成分法，还有极大似然法，基于这些不同算法得到的结果一般也不同。而主成分只能用主成分法提取；7 主成分分析中，当给定的协方差矩阵或者相关矩阵的特征值唯一时，主成分一般是固定的；而因子分析中，因子不是固定的，可以旋转得到不同的因子；8 在因子分析中，因子个数需要分析者指定spss根据一定的条件自动设定，只要是特征值大于1的因子进入分析，而指定的因子数量不同而结果不同。在主成分分析中，成分的数

17、量是一定的，一般有几个变量就有几个主成分。12、聚类分析根本思想及分类聚类分析就是按照对象之间的“相似程度把对象进展分类。聚类分析的“对象可以是所观察的多个样本，也可以是针对每个样本测得的多个变量。对样品的分类称为Q型聚类；对变量的分类，则称为R型聚类Q聚类是根据被观测对象的各种特征，即反映被观测对象的特征的各变量值进展分类。R聚类是根据所研究的问题选择局部变量对事物的*一方面进展研究。按对象的“相似程度分类n 对变量进展聚类可以用夹角余弦、Pearson相关系数等工具，也称为相似系数n 对样本聚类则使用“距离求解步骤1先对数据进展变换处理，消除量纲对数据的影响；2认为各样本点自成一类(即n个

18、样本点一共有n类)，然后计算各样本点之间的距离，并将距离最近的两个样本点并成一类；3选择并计算类与类之间的距离，并将距离最近的两类合并；4重复上面作法直至所有样本点归为所需类数为止；5最后绘制聚类图。 13、相似性的度量1） 在对样本进展分类时，度量样本之间的相似性使用点间距离。欧式距离绝对值距离切比雪夫距离明氏距离兰氏距离2在对变量进展分类时，度量变量之间的相似性常用相似系数，测度方法有夹角余弦Pearson相关系数夹角余弦，如果与比拟相似，则他们的夹角接近0，从而接近1。Pearson相关系数，相关系数越接近于1或-1，越相似；彼此无关的变量，他们的相关系数接近0。15、系统聚类和快速聚类

19、的特点分别是什么.版本一系统聚类事先不确定要分多少类，而是先把每一个对象作为一类，然后一层一层进展分类。根据运算的方向不同，层次聚类法又分为合并法和分解法，两种方法的运算原理一样，只是方向相反。快速聚类法是根据事先确定的K个类别反复迭代直到把每个样本分到指定的类别中。类别数目确实定具有一定的主观性，终究分多少类适宜，取决于研究者对研究问题的了解程度、相关知识和经历。快速聚类特点：处理速度快，占用存少，适用于大样本的聚类分析。16、七个样品之间的相似系数矩阵如下，试对这七个样品进展聚类，并画出谱系图。 答案：17、层次聚类法合并法和分解法计算类间距离有多种方法，试写出两种方法。最短距离法最近邻法

20、：首先合并最近的或最相似的两类，用两类间最近点的距离代表两类之间的距离。最长距离法：用两类间最远点的距离代表两类之间的距离。重心法：用两类重心之间的距离表示两类之间的距离。组间平均距离法：SPSS默认，是用两类中间各个数据点之间的距离的平均来表示两类之间的距离，既不是最大距离也不是最小距离。离差平方和距离法：常用，使各类别中的离差平方和较小，而不同类别之间的离差平方和较大。18、K-均值聚类是针对样品CASE的聚类还是针对变量的聚类.K-均值聚类是针对样品case的聚类，需要单独做标准化处理，而后再进展聚类。19、 判别分析l 简述Fishers判别的原理。建立Fisher判别函数的准则是什么

21、.Fisher判别，亦称典则判别，是将自变量投影到较低维度的空间，再进展分类。相当于将自变量先提取几个主成分，只需根据主成分分类。Fisher准则：使得综合指标Z在A类的均数与在B类的均数的差异尽可能大，而两类综合指标Z的变异尽可能小l 解读spss输出结果。判别分析是在研究对象分成假设干类型并已取得各种类型的一批样品的观测数据，在此根底上根据*些准则建立判别式，然后对未知类型的样品进展判别分类。求解步骤20、常用判别方法1距离判别法：根本思想是，先根据分类的数据，分别计算各类的重心，然后计算待判样本与各类的距离，与哪一类距离最近，就判待判样本*属于哪一类。 判别函数为：W(*)=D(*,G2

22、)-D(*,G1)判别准则为：注意：距离一般采用马氏距离；适合对自变量均为连续变量的情况进展分类；对各类的分布无特定的要求。2Fisher判别法：根本思想是通过将多维数据投影至*个方向上，投影的原则是将总体与总体之间尽可能分开，然后再选择适宜的判别规则，将待判的样本进展分类判别。所谓的投影实际上是利用方差分析的思想构造也一个或几个超平面，使得两组间的差异最大，每组的差异最小。费歇尔判别函数为：其判别准则是：Fisher判别对各类分布、方差都没有限制。但当总体个数较多时，计算比拟麻烦。建立Fisher判别函数的准则是：使得综合指标Z在A类的均数与在B类的均数的差异尽可能大，而两类综合指标Z的变异

23、尽可能小3Bayes判别法：根本思想是：设有两个总体，它们的先验概率分别为q1、q2，各总体的密度函数为f1(*)、f2(*)，在观测到一个样本*的情况下，可用贝叶斯公式计算它来自第k个总体的后验概率为：一种常用判别准则是：对于待判样本*，如果在所有的P(Gk/*)中P(Gh/*)是最大的，则判定*属于第h总体。通常会以样本的频率作为各总体的先验概率。Bayes判别主要用于多类判别，它要求总体呈多元正态分布4逐步判别法：逐步判别法与逐步回归法的根本思想类似，都是逐步引入变量，每引入一个“最重要的变量进入判别式，同时也考虑较早引入判别式的*些变量，假设其判别能力不显著了，应及时从判别式中剔除去，

24、直到判别式中没有不重要的变量需要剔除，且也没有重要的变量要引入为止。21、对Bayes判别法与Fisher判别法作比拟1当k个总体的均值向量共线性程度较高时，Fisher判别法可用较少的判别函数进展判别，因而比Bayes判别法简单。另外，Fisher判别法未对总体的分布提出什么特定的要求。2Fisher判别法的缺乏是它不考虑各总体出现概率的大小，也给不出预报的后验概率及错判率的估计以及错判之后造成的损失。而这缺乏恰是Bayes判别法的优点，但值得指出的是，如果给定的先验概率不符合客观实际时，Bayes判别法也可能会导致错误的结论。22、简述判别分析与聚类分析的区别。判别分析 研究对象分为假设干

25、个类别，并且已经取得每一类别的假设干观测数据，在此根底上寻求出分类的规律性，建立判别准则，然后对未知类别的样品进展判别分类。聚类分析 一批样品划分为几类事先并不知道，需要通过聚类分析来给以确定分几种类型。判别分析与聚类分析不同点在于，判别分析要求一系列反映事物特征的数值变量的值，并且各个体的分类。28、K-均值聚类是否需要在聚类之前先做标准化处理.K-均值聚类是针对样品case的聚类，需要单独做标准化处理，而后再进展聚类。各变量的取值不应有数量级上的过大差异，否则会对分类结果产生较大影响。这时需要对变量进展标准化处理(SPSS提供的层次聚类法中在聚类时可以选择对变量做标准化处理，而K-均值聚类

26、法则需要单独做标准化处理，此后再进展聚类)各变量间不应有较强的相关关系。假设两个强相关的变量同时参与聚类分析，在测度距离时，就加大了它们的奉献，而其他变量则相对被削弱33、简述多元线性回归中，写出两种多重共线性的诊断方法和解决方案。诊断方法：检测多重共线性的最简单的一种方法是计算模型中各对自变量之间的相关系数，并对各相关系数进展显著性检验。假设有一个或多个相关系数显著，就表示模型中所用的自变量之间相关，存在着多重共线性。如果出现以下情况，暗示存在多重共线性模型中各对自变量之间显著相关当模型的线性关系检验(F检验)显著时，几乎所有回归系数的t检验却不显著 回归系数的正负号与预期的相反。解决方案：

27、将一个或多个相关的自变量从模型中剔除，使保存的自变量尽可能不相关；如果要在模型中保存所有的自变量，则应防止根据 t 统计量对单个参数进展检验；对因变量值的推断(估计或预测)的限定在自变量样本值的围。34、一家大型商业银行在多个地区设有分行，为弄清楚不良贷款形成的原因，抽取了该银行所属的25家分行2002年的有关业务数据。试建立不良贷款y与贷款余额*1、累计应收贷款*2、贷款工程个数*3和固定资产投资额*4的线性回归方程，并解释各回归系数的含义 上表是计算机输出的结果。试写出多元线性回归模型，并进展统计学检验。概述表中，看到R Square=0.7976，Adjusted R Square=0.

28、7571表示模型的拟合优度很好。方差分析表中，对方程的显著性检验F对应的sig=1.035E-06，小于0.05，说明回归方程有统计意义。Coefficients是各个变量的系数，由P-value值可以判定，只有变量1的p-value小于0.05，说明变量1与因变量y有显著相关关系。回归模型：Y=0.04* Variable 1-1.0216.38、简述logistic回归的原理和适用条件。Logistic回归，是指因变量为二级计分或二类评定的回归分析。因变量Y是一个二值变量 自变量*1，*2，*mP表示在m个自变量作用下事件发生的概率。适用条件：因变量只有两个值，发生是或者不发生不是。自变量

29、数据最好为多元正态分布，自变量间的共线性会导致估计偏差。实际上属于判别分析，因拥有很差的判别效率而不常用。适用于流行病学资料的因素分析验室中药物的剂量-反响关系、临床试验评价、病的预后因素分析。41、汇总归纳u 聚类分析根本原理：将个体样品或者对象变量按相似程度距离远近划分类别，使得同一类中的元素之间的相似性比其他类的元素的相似性更强。目的在于使类间元素的同质性最大化和类与类间元素的异质性最大化。常用聚类方法：系统聚类法，K-均值法，模糊聚类法，有序样品的聚类，分解法，参加法。本卷须知：1. 系统聚类法可对变量或者记录进展分类，K-均值法只能对记录进展分类；2. K-均值法要求分析人员事先知道

30、样品分为多少类；3. 对变量的多元正态性，方差齐性等要求较高。应用领域：细分市场，消费行为划分，设计抽样方案等u 判别分析根本原理：从的各种分类情况中总结规律训练出判别函数，当新样品进入时，判断其与判别函数之间的相似程度概率最大，距离最近，离差最小等判别准则。常用判别方法：最大似然法，距离判别法，Fisher判别法，Bayes判别法，逐步判别法等。本卷须知：1. 判别分析的根本条件：分组类型在两组以上，解释变量必须是可测的；2. 每个解释变量不能是其它解释变量的线性组合比方出现多重共线性情况时，判别权重会出现问题3. 各解释变量之间服从多元正态分布不符合时，可使用Logistic回归替代，且各

31、组解释变量的协方差矩阵相等各组协方方差矩阵有显著差异时，判别函数不一样。相对而言，即使判别函数违反上述适用条件，也很稳健，对结果影响不大。应用领域：对客户进展信用预测，寻找潜在客户是否为消费者，公司是否成功，学生是否被录用等等，临床上用于鉴别诊断。u 主成分分析/ 因子分析主成分分析根本原理：利用降维线性变换)的思想，在损失很少信息的前提下把多个指标转化为几个综合指标主成分),即每个主成分都是原始变量的线性组合,且各个主成分之间互不相关,使得主成分比原始变量具有*些更优越的性能主成分必须保存原始变量90%以上的信息，从而到达简化系统构造，抓住问题实质的目的。因子分析根本原理：利用降维的思想，由

32、研究原始变量相关矩阵部的依赖关系出发，把一些具有错综复杂关系的变量归结为少数几个综合因子。因子分析是主成分的推广，相对于主成分分析，更倾向于描述原始变量之间的相关关系求解主成分的方法：从协方差阵出发协方差阵，从相关阵出发相关阵R。实际研究中，总体协方差阵与相关阵是未知的，必须通过样本数据来估计求解因子载荷的方法：主成分法，主轴因子法，极大似然法，最小二乘法，a因子提取法本卷须知：1. 由协方差阵出发与由相关阵出发求解主成分所得结果不一致时，要恰当的选取*一种方法；2. 对于度量单位或是取值围在同量级的数据，可直接求协方差阵；对于度量单位不同的指标或是取值围彼此差异非常大的指标，应考虑将数据标准化，再由协方差阵求主成分；3.主成分分析不要求数据来源于正态分布；4. 在选取初始变量进入分析时应该特别注意原始变量是否存在多重共线性的问题最小特征根接近于零，说明存在多重共线性问题。5. 因子分析中各个公共因子之间不相关，特殊因子之间不相关，公共因子和特殊因子之间不相关。应用领域：解决共线性问题，评价问卷的构造效度，寻找变量间潜在的构造，在构造证实。l 做聚类分析时，有层次聚类法、K-均值聚类法以及两步聚类法等方法。应该如何选择层次聚类法、K-均值聚类法.应用统计最后一题是和客户关系有关的。大家可以先查查有关文献，查看客户流失用哪些指标可以定义然后设计方案。. z.