主成份分析因子分析精选PPT.ppt
《主成份分析因子分析精选PPT.ppt》由会员分享,可在线阅读,更多相关《主成份分析因子分析精选PPT.ppt(105页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、关于主成份分析因子分析zf第1页,讲稿共105张,创作于星期一zf2因子分析的重点因子分析的重点v1 1、什么是因子分析?、什么是因子分析?v2 2、理解因子分析的基本思想、理解因子分析的基本思想v3 3、因子分析的数学模型以及模型中公共因子、因子分析的数学模型以及模型中公共因子、因子载荷变量共同度的统计意义因子载荷变量共同度的统计意义v4 4、因子旋转的意义、因子旋转的意义 v5 5、结合、结合SPSSSPSS软件进行案例分析软件进行案例分析第2页,讲稿共105张,创作于星期一zf36.1 6.1 因子分析的基本理论因子分析的基本理论v1 1、什么是因子分析?、什么是因子分析?因子分析是主成
2、分分析的推广,也是利用因子分析是主成分分析的推广,也是利用降维降维的思想,的思想,由研究原始变量相关矩阵或协方差矩阵的内部依赖关系出发,由研究原始变量相关矩阵或协方差矩阵的内部依赖关系出发,把一些具有错综复杂关系的多个变量归结为少数几个综合因把一些具有错综复杂关系的多个变量归结为少数几个综合因子的一种多元统计分析方法。子的一种多元统计分析方法。v2 2、因子分析的基本思想:、因子分析的基本思想:把每个研究变量分解为几个影响因素变量,将每个把每个研究变量分解为几个影响因素变量,将每个原始变量分解成两部分因素,一部分是由所有变量共同原始变量分解成两部分因素,一部分是由所有变量共同具有的少数几个具有
3、的少数几个公共因子公共因子组成的,另一部分是每个变量独自组成的,另一部分是每个变量独自具有的因素,即具有的因素,即特殊因子特殊因子。第3页,讲稿共105张,创作于星期一zf4v3 3、因子分析的目的:、因子分析的目的:l因子分析的目的之一,因子分析的目的之一,简化变量维数。简化变量维数。即要使因素结构简即要使因素结构简单化,希望以最少的共同因素(公共因子),能对总变异量单化,希望以最少的共同因素(公共因子),能对总变异量作最大的解释,因而抽取得因子愈少愈好,但抽取因子的累作最大的解释,因而抽取得因子愈少愈好,但抽取因子的累积解释的变异量愈大愈好。积解释的变异量愈大愈好。l在因子分析的公共因子抽
4、取中,应最先抽取特征值最大在因子分析的公共因子抽取中,应最先抽取特征值最大的公共因子,其次是次大者,最后抽取公共因子的特征的公共因子,其次是次大者,最后抽取公共因子的特征值最小值最小 通常会接近通常会接近0 0。第4页,讲稿共105张,创作于星期一zf5v例:在企业形象或品牌形象的研究中,消费者可以通过一个有例:在企业形象或品牌形象的研究中,消费者可以通过一个有2424个指标构成的评价体系,评价百货商场的个指标构成的评价体系,评价百货商场的2424个方面的优劣。个方面的优劣。v但消费者主要关心的是三个方面,即商店的环境、商店的服务和商品的价但消费者主要关心的是三个方面,即商店的环境、商店的服务
5、和商品的价格。因子分析方法可以通过格。因子分析方法可以通过2424个变量,找出反映商店环境、商店服务水平个变量,找出反映商店环境、商店服务水平和商品价格的三个潜在的因子,对商店进行综合评价。而这三个公共因子和商品价格的三个潜在的因子,对商店进行综合评价。而这三个公共因子可以表示为:可以表示为:v称称 是不可观测的潜在因子是不可观测的潜在因子,称为公共因子。称为公共因子。2424个变量共享这个变量共享这三个因子,但是每个变量又有自己的个性,不被包含的部分三个因子,但是每个变量又有自己的个性,不被包含的部分 ,称,称为特殊因子。为特殊因子。第5页,讲稿共105张,创作于星期一zf6v4 4、主成分
6、分析分析与因子分析的联系和差异:、主成分分析分析与因子分析的联系和差异:联系:联系:(1 1)因子分析是主成分分析的推广,是主成分分析的逆问题。()因子分析是主成分分析的推广,是主成分分析的逆问题。(2 2)二者都)二者都是以是以降维降维为目的,都是从协方差矩阵或相关系数矩阵出发。为目的,都是从协方差矩阵或相关系数矩阵出发。区别区别:(1 1)主成分分析模型是原始变量的线性组合,是将原始变量加以综合、主成分分析模型是原始变量的线性组合,是将原始变量加以综合、归纳,仅仅是变量变换;而因子分析是将原始变量加以分解,描述原始变量协方归纳,仅仅是变量变换;而因子分析是将原始变量加以分解,描述原始变量协
7、方差矩阵结构的模型;只有当提取的公因子个数等于原始变量个数时,因子分析才差矩阵结构的模型;只有当提取的公因子个数等于原始变量个数时,因子分析才对应变量变换。(对应变量变换。(2 2)主成分分析,中每个主成分对应的系数是唯一确定的;因子)主成分分析,中每个主成分对应的系数是唯一确定的;因子分析中每个因子的相应系数即因子载荷不是唯一的。(分析中每个因子的相应系数即因子载荷不是唯一的。(3 3)因子分析中因子载荷的)因子分析中因子载荷的不唯一性有利于对公因子进行有效解释;而主成分分析对提取的主成分的解释能不唯一性有利于对公因子进行有效解释;而主成分分析对提取的主成分的解释能力有限。力有限。第6页,讲
8、稿共105张,创作于星期一zf7v5 5、因子分析模型:、因子分析模型:设设 个变量,如果表示为个变量,如果表示为第7页,讲稿共105张,创作于星期一zf8(1 1)(2 2)称称为为 公公共共因因子子,是是不不可可观观测测的的变变量量,他他们们的的系系数数称称为为因因子子载载荷荷。是是特特殊殊因因子子,是是不不能能被被前前m m个公共因子包含的部分。其中:个公共因子包含的部分。其中:相互独立即不相关;相互独立即不相关;即即 互不相关,方差为互不相关,方差为1 1。第8页,讲稿共105张,创作于星期一zf9(3 3)即互不相关,方差不一定相等,即互不相关,方差不一定相等,。满足以上条件的,称为
9、满足以上条件的,称为正交因子模型正交因子模型如如果果()不不成成立立,即即 各各公公共共因因子子之之间间不不独独立立,则因子分析模型为则因子分析模型为斜交因子模型斜交因子模型第9页,讲稿共105张,创作于星期一zf10公因子公因子F1公因子公因子F2共同度共同度hi特殊因子特殊因子ix1=代数代数10.8960.3410.9190.081x2=代数代数20.8020.4960.8890.111x3=几何几何0.5160.8550.9970.003x4=三角三角0.8410.4440.9040.096x5=解析几何解析几何0.8330.4340.8820.118特征值特征值 G3.1131.47
10、94.9590.409方差贡献率方差贡献率(变异量)(变异量)62.26%29.58%91.85%因子分析案例因子分析案例F F1 1 体现逻辑思维和运算能力,体现逻辑思维和运算能力,F F2 2 体现空间思维和推理能力体现空间思维和推理能力第10页,讲稿共105张,创作于星期一zf11v6 6、因子分析模型中的几个重要统计量的意义:、因子分析模型中的几个重要统计量的意义:(1 1)因子负荷量(或称因子载荷)因子负荷量(或称因子载荷)-是指因子结构中是指因子结构中原始变量与因子分析时抽取出的公共因子的相关程度。原始变量与因子分析时抽取出的公共因子的相关程度。第11页,讲稿共105张,创作于星期
11、一zf12 在在各各公公共共因因子子不不相相关关的的前前提提下下,(载载荷荷矩矩阵阵中中第第i i行行,第第j j列列的的元元素素)是是随随机机变变量量xi*与与公公共共因因子子F Fj j的的相相关关系系数数,表表示示x xi i*依依赖赖于于F Fj j的的程程度度。反反映映了了第第i i个个原原始始变变量量在在第第j j个个公公共共因因子子上上的的相相对对重重要要性性。因因此此 绝绝对对值值越越大大,则则公共因子公共因子F Fj j与原有变量与原有变量x xi i的关系越强。的关系越强。第12页,讲稿共105张,创作于星期一zf13(2 2)共同度共同度-又称共性方差或公因子方差又称共性
12、方差或公因子方差(community或或commonvariance)就是变量与每个公共因子之负荷量的平就是变量与每个公共因子之负荷量的平方总和(一行中所有因素负荷量的平方和)。方总和(一行中所有因素负荷量的平方和)。变量变量 的共同的共同度是因子载荷矩阵的第度是因子载荷矩阵的第i i行的元素的平方和。记为行的元素的平方和。记为 从共同性的大小可以判断这个原始实测变量与公共因子间之关系从共同性的大小可以判断这个原始实测变量与公共因子间之关系程度。如因子分析案例中程度。如因子分析案例中 共同度共同度h h1 12 2=(0.896)=(0.896)平方平方+(0.341)+(0.341)平方平方
13、=0.919=0.919o特殊因子方差(剩余方差)特殊因子方差(剩余方差)-各变量的特殊因素影响大小就是各变量的特殊因素影响大小就是1 1减掉该减掉该变量共同度的值。如变量共同度的值。如 =1-0.919=0.081=1-0.919=0.081第13页,讲稿共105张,创作于星期一zf14统计意义统计意义:两边求方差两边求方差 所有的公共因子和特殊因子对变量所有的公共因子和特殊因子对变量 的贡献为的贡献为1 1。h hi i2 2反映了全部公反映了全部公共因子对变量共因子对变量X Xi i*的影响,是全部公共因子对变量方差所做出的贡献,或者说的影响,是全部公共因子对变量方差所做出的贡献,或者说
14、X Xi i*对公共因子的共同依赖程度,称为公共因子对变量对公共因子的共同依赖程度,称为公共因子对变量X Xi i*的方差贡献。的方差贡献。H Hi i2 2接近于接近于1 1,表明该变量的原始信息几乎都被选取的公共因子说明,表明该变量的原始信息几乎都被选取的公共因子说明了。了。特殊因子的方差,反映了原有变量方差中无法被公共因子描述的比例。特殊因子的方差,反映了原有变量方差中无法被公共因子描述的比例。第14页,讲稿共105张,创作于星期一zf15(3 3)特征值特征值-是第是第j j个公共因子个公共因子F Fj j对于对于X X*的每一分量的每一分量X Xi i*所提供的方差所提供的方差的总和
15、。又称第的总和。又称第j j个公共因子的方差贡献。即个公共因子的方差贡献。即每个变量与某一共同因素每个变量与某一共同因素之因素负荷量的平方总和之因素负荷量的平方总和(因子载荷矩阵中某一公共因子列所有因子负(因子载荷矩阵中某一公共因子列所有因子负荷量的平方和)。荷量的平方和)。如因子分析案例中如因子分析案例中 F1F1的特征值的特征值 G=G=(0.8960.896)平方平方+(0.8020.802)平方平方+(0.5160.516)平方)平方+(0.8410.841)平方)平方+(0.8330.833)平方)平方=3.113=3.113(4 4)方差贡献率)方差贡献率-指公共因子对实测变量的贡
16、献,又称变异量指公共因子对实测变量的贡献,又称变异量 方差贡献率方差贡献率=特征值特征值G/G/实测变量数实测变量数p p,是衡量公共因子相对重要性的指标,是衡量公共因子相对重要性的指标,G Gi i越大,表明公共因子越大,表明公共因子F Fj j对对X X*的贡献越大,该因子的重要程度越高的贡献越大,该因子的重要程度越高 如因子分析案例中如因子分析案例中 F1F1的贡献率为的贡献率为3.113/5=62.26%3.113/5=62.26%第15页,讲稿共105张,创作于星期一zf166.2 6.2 因子的基本内容因子的基本内容v1 1、因子分析的基本步骤:、因子分析的基本步骤:(1 1)因子
17、分析的前提条件鉴定)因子分析的前提条件鉴定 考察原始变量之间是否存在较强的相关关系,是否适合进考察原始变量之间是否存在较强的相关关系,是否适合进行因子分析。因为:行因子分析。因为:因子分析的主要任务之一就是对原有变量中信息重叠因子分析的主要任务之一就是对原有变量中信息重叠的部分提取和综合成因子,最终实现减少变量个数的目的。的部分提取和综合成因子,最终实现减少变量个数的目的。所以要求原有变量之间应存在较强的相关关系。否则,如所以要求原有变量之间应存在较强的相关关系。否则,如果原有变量相互独立,不存在信息重叠,也就无需进行综果原有变量相互独立,不存在信息重叠,也就无需进行综合和因子分析。合和因子分
18、析。(2 2)因子提取)因子提取 研究如何在样本数据的基础上提取综合因子。研究如何在样本数据的基础上提取综合因子。第16页,讲稿共105张,创作于星期一zf17(3 3)因子旋转)因子旋转 通过正交旋转或斜交旋转使提取出的因子具有可解通过正交旋转或斜交旋转使提取出的因子具有可解释性。释性。(4 4)计算因子得分)计算因子得分 通过各种方法求解各样本在各因子上的得分,为进一通过各种方法求解各样本在各因子上的得分,为进一步分析奠定基础。步分析奠定基础。第17页,讲稿共105张,创作于星期一zf18v2 2、因子分析前提条件、因子分析前提条件相关性分析:相关性分析:分析方法主要有:分析方法主要有:(
19、1 1)计算相关系数矩阵)计算相关系数矩阵(correlation correlation coefficients matrix)coefficients matrix)如果相关系数矩阵中的大部分相关系数值如果相关系数矩阵中的大部分相关系数值均小于均小于0.30.3,即各变量间大多为弱相关,原,即各变量间大多为弱相关,原则上这些变量不适合进行因子分析。则上这些变量不适合进行因子分析。(2 2)计算反映象相关矩阵()计算反映象相关矩阵(Anti-image Anti-image correlation matrix)correlation matrix)第18页,讲稿共105张,创作于星期一z
20、f19 反映象相关矩阵,如果其主对角线外的元素大多绝对反映象相关矩阵,如果其主对角线外的元素大多绝对值较小,对角线上的元素值较接近值较小,对角线上的元素值较接近1 1,则说明这些变量的,则说明这些变量的相关性较强,适合进行因子分析。相关性较强,适合进行因子分析。其中主对角线上的元素为某变量的其中主对角线上的元素为某变量的MSA(Measure of Sample MSA(Measure of Sample Adequacy)Adequacy):是变量是变量 和变量和变量 ()间的简单相关系数,是变量间的简单相关系数,是变量 和变量和变量 ()在控制了其他变量影响下的偏相关系数,即在控制了其他变
21、量影响下的偏相关系数,即净相关系数。净相关系数。取值在取值在0 0和和1 1之间,越接近之间,越接近1 1,意味着变量,意味着变量 与其他变量间的相关性越强,越接近与其他变量间的相关性越强,越接近0 0则相关性越弱。则相关性越弱。第19页,讲稿共105张,创作于星期一zf20(3 3)巴特利特球度检验()巴特利特球度检验(Bartlett test of sphericity)Bartlett test of sphericity)该检验以原有变量的相关系数矩阵为出发点,其零假该检验以原有变量的相关系数矩阵为出发点,其零假设设H0H0是:相关系数矩阵为单位矩阵,即相关系数矩阵主对角是:相关系数
22、矩阵为单位矩阵,即相关系数矩阵主对角元素均为元素均为1 1,非主对角元素均为,非主对角元素均为0 0。(即原始变量之间无相关。(即原始变量之间无相关关系)。关系)。依据相关系数矩阵的行列式计算可得其近似服从卡方分布。依据相关系数矩阵的行列式计算可得其近似服从卡方分布。如果统计量卡方值较大且对应的如果统计量卡方值较大且对应的sigsig值小于给定的显著性水平值小于给定的显著性水平a a时,零假设不成立。即说明相关系数矩阵不太可能是单位矩阵,时,零假设不成立。即说明相关系数矩阵不太可能是单位矩阵,变量之间存在相关关系,适合做因子分析。变量之间存在相关关系,适合做因子分析。第20页,讲稿共105张,
23、创作于星期一zf21(4 4)KMO(Kaiser-Meyer-Olkin)KMO(Kaiser-Meyer-Olkin)检验检验 KMOKMO检验的统计量是用于比较变量间简单相关系数矩阵和偏相关系检验的统计量是用于比较变量间简单相关系数矩阵和偏相关系数的指标,数学定义为:数的指标,数学定义为:KMO KMO与与MSAMSA区别是它将相关系数矩阵中的所有元素都加入到了区别是它将相关系数矩阵中的所有元素都加入到了平方和计算中。平方和计算中。KMOKMO值越接近值越接近1 1,意味着变量间的相关性越强,意味着变量间的相关性越强,原有变量适合做因子分析;越接近原有变量适合做因子分析;越接近0 0,意
24、味变量间的相关性越弱,意味变量间的相关性越弱,越不适合作因子分析。越不适合作因子分析。KaiserKaiser给出的给出的KMOKMO度量标准:度量标准:0.90.9以上非以上非常适合;常适合;0.80.8表示适合;表示适合;0.70.7表示一般;表示一般;0.60.6表示不太适合;表示不太适合;0.50.5以以下表示极不适合。下表示极不适合。第21页,讲稿共105张,创作于星期一zf22v3 3、因子提取和因子载荷矩阵的求解:、因子提取和因子载荷矩阵的求解:因子载荷矩阵求解的方法:因子载荷矩阵求解的方法:(1 1)基于主成分模型的主成分分析法)基于主成分模型的主成分分析法 (2 2)基于因子
25、分析模型的主轴因子法)基于因子分析模型的主轴因子法 (3 3)极大似然法极大似然法 (4 4)最小二乘法)最小二乘法 (5 5)a a因子提取法因子提取法 (6 6)映象分析法)映象分析法第22页,讲稿共105张,创作于星期一zf23(1 1)基于主成分模型的主成分分析法)基于主成分模型的主成分分析法Principal Principal componentscomponents 设随机向量 的均值为,协方差为,为的特征根,为对应的标准化特征向量,则第23页,讲稿共105张,创作于星期一zf24o上式给出的上式给出的 表达式是精确的,然而,它实际上是毫无价值的,表达式是精确的,然而,它实际上是
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 成份 分析 因子分析 精选 PPT
限制150内