应用统计学因子分析幻灯片.ppt
《应用统计学因子分析幻灯片.ppt》由会员分享,可在线阅读,更多相关《应用统计学因子分析幻灯片.ppt(78页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、应用统计学因子分析第1页,共78页,编辑于2022年,星期六因子分析的基本理论因子分析的基本理论v1 1、什么是因子分析?、什么是因子分析?因子分析是主成分分析的推广,也是利用因子分析是主成分分析的推广,也是利用降维降维的思想,的思想,由研究原始变量相关矩阵或协方差矩阵的内部依赖关系由研究原始变量相关矩阵或协方差矩阵的内部依赖关系出发,把一些具有错综复杂关系的多个变量归结为少数出发,把一些具有错综复杂关系的多个变量归结为少数几个综合因子的一种多元统计分析方法。几个综合因子的一种多元统计分析方法。v2 2、因子分析的基本思想:、因子分析的基本思想:把每个研究变量分解为几个影响因素变量,将每个原始
2、变量把每个研究变量分解为几个影响因素变量,将每个原始变量分解成两部分因素,一部分是由所有变量共同具有的少数几个分解成两部分因素,一部分是由所有变量共同具有的少数几个公公共因子共因子组成的,另一部分是每个变量独自具有的因素,即组成的,另一部分是每个变量独自具有的因素,即特殊特殊因子因子。第2页,共78页,编辑于2022年,星期六v3 3、因子分析的目的:、因子分析的目的:l因子分析的目的之一,因子分析的目的之一,简化变量维数。简化变量维数。即要使因素结构简单化,即要使因素结构简单化,希望以最少的共同因素(公共因子),能对总变异量作最大希望以最少的共同因素(公共因子),能对总变异量作最大的解释,因
3、而抽取得因子愈少愈好,但抽取因子的累积解释的解释,因而抽取得因子愈少愈好,但抽取因子的累积解释的变异量愈大愈好。的变异量愈大愈好。l在因子分析的公共因子抽取中,应最先抽取特征值最大的公共在因子分析的公共因子抽取中,应最先抽取特征值最大的公共因子,其次是次大者,最后抽取公共因子的特征值最小因子,其次是次大者,最后抽取公共因子的特征值最小 通常通常会接近会接近0 0。第3页,共78页,编辑于2022年,星期六v例:在企业形象或品牌形象的研究中,消费者可以通过一个有例:在企业形象或品牌形象的研究中,消费者可以通过一个有2424个指标构成个指标构成的评价体系,评价百货商场的的评价体系,评价百货商场的2
4、424个方面的优劣。个方面的优劣。v但消费者主要关心的是三个方面,即商店的环境、商店的服务和商但消费者主要关心的是三个方面,即商店的环境、商店的服务和商品的价格。因子分析方法可以通过品的价格。因子分析方法可以通过2424个变量,找出反映商店环境、个变量,找出反映商店环境、商店服务水平和商品价格的三个潜在的因子,对商店进行综合评商店服务水平和商品价格的三个潜在的因子,对商店进行综合评价。而这三个公共因子可以表示为:价。而这三个公共因子可以表示为:v称称 是不可观测的潜在因子是不可观测的潜在因子,称为公共因子。称为公共因子。2424个变量共享这三个变量共享这三个因子,但是每个变量又有自己的个性,不
5、被包含的部分个因子,但是每个变量又有自己的个性,不被包含的部分 ,称为特,称为特殊因子。殊因子。第4页,共78页,编辑于2022年,星期六v4 4、主成分分析分析与因子分析的联系和差异:、主成分分析分析与因子分析的联系和差异:联系:联系:(1 1)因子分析是主成分分析的推广,是主成分分析的逆问题。()因子分析是主成分分析的推广,是主成分分析的逆问题。(2 2)二者都是以二者都是以降维降维为目的,都是从协方差矩阵或相关系数矩阵出发。为目的,都是从协方差矩阵或相关系数矩阵出发。区别区别:(1 1)主成分分析模型是原始变量的线性组合,是将原始变量加以综合、主成分分析模型是原始变量的线性组合,是将原始
6、变量加以综合、归纳,仅仅是变量变换;而因子分析是将原始变量加以分解,描述原始变量协方差归纳,仅仅是变量变换;而因子分析是将原始变量加以分解,描述原始变量协方差矩阵结构的模型;只有当提取的公因子个数等于原始变量个数时,因子分析才对应矩阵结构的模型;只有当提取的公因子个数等于原始变量个数时,因子分析才对应变量变换。(变量变换。(2 2)主成分分析,中每个主成分对应的系数是唯一确定的;因子分析中)主成分分析,中每个主成分对应的系数是唯一确定的;因子分析中每个因子的相应系数即因子载荷不是唯一的。(每个因子的相应系数即因子载荷不是唯一的。(3 3)因子分析中因子载荷的不唯一性)因子分析中因子载荷的不唯一
7、性有利于对公因子进行有效解释;而主成分分析对提取的主成分的解释能力有限。有利于对公因子进行有效解释;而主成分分析对提取的主成分的解释能力有限。第5页,共78页,编辑于2022年,星期六v5 5、因子分析模型:、因子分析模型:设设 个变量,如果表示为个变量,如果表示为第6页,共78页,编辑于2022年,星期六(1 1)(2 2)称称为为 公公共共因因子子,是是不不可可观观测测的的变变量量,他他们们的的系系数数称称为为因因子子载载荷荷。是是特特殊殊因因子子,是是不不能能被被前前m m个公共因子包含的部分。其中:个公共因子包含的部分。其中:相互独立即不相关;相互独立即不相关;即即 互不相关,方差为互
8、不相关,方差为1 1。第7页,共78页,编辑于2022年,星期六(3 3)即互不相关,方差不一定相等,即互不相关,方差不一定相等,。满足以上条件的,称为满足以上条件的,称为正交因子模型正交因子模型如如果果()不不成成立立,即即 各各公公共共因因子子之之间间不不独独立立,则因子分析模型为则因子分析模型为斜交因子模型斜交因子模型第8页,共78页,编辑于2022年,星期六公因子公因子F1公因子公因子F2共同度共同度hi特殊因子特殊因子ix1=代数代数10.8960.3410.9190.081x2=代数代数20.8020.4960.8890.111x3=几何几何0.5160.8550.9970.003
9、x4=三角三角0.8410.4440.9040.096x5=解析几何解析几何0.8330.4340.8820.118特征特征值值 G3.1131.4794.9590.409方差方差贡贡献率献率(变变异量)异量)62.26%29.58%91.85%案例案例F F1 1 体现逻辑思维和运算能力,体现逻辑思维和运算能力,F F2 2 体现空间思维和推理能力体现空间思维和推理能力第9页,共78页,编辑于2022年,星期六v6 6、因子分析模型中的几个重要统计量的意义:、因子分析模型中的几个重要统计量的意义:(1 1)因子负荷量(或称因子载荷)因子负荷量(或称因子载荷)-是指因子结构中原始是指因子结构中
10、原始变量与因子分析时抽取出的公共因子的相关程度。变量与因子分析时抽取出的公共因子的相关程度。第10页,共78页,编辑于2022年,星期六 在在各各公公共共因因子子不不相相关关的的前前提提下下,(载载荷荷矩矩阵阵中中第第i i行行,第第j j列列的的元元素素)是是随随机机变变量量xi*与与公公共共因因子子F Fj j的的相相关关系系数数,表表示示x xi i*依依赖赖于于F Fj j的的程程度度。反反映映了了第第i i个个原原始始变变量量在在第第j j个个公公共共因因子子上上的的相相对对重重要要性性。因因此此 绝绝对对值值越越大,则公共因子大,则公共因子F Fj j与原有变量与原有变量x xi
11、i的关系越强。的关系越强。第11页,共78页,编辑于2022年,星期六(2 2)共同度共同度-又称共性方差或公因子方差又称共性方差或公因子方差(community或或common variance)就是变量与每个公共因子之负荷量的平方总和就是变量与每个公共因子之负荷量的平方总和(一行中所有因素负荷量的平方和)。(一行中所有因素负荷量的平方和)。变量变量 的共同度是因子载的共同度是因子载荷矩阵的第荷矩阵的第i i行的元素的平方和。记为行的元素的平方和。记为 从共同性的大小可以判断这个原始实测变量与公共因子间之关从共同性的大小可以判断这个原始实测变量与公共因子间之关系程度。如因子分析案例中系程度。
12、如因子分析案例中 共同度共同度h h1 12 2=(0.896)=(0.896)平方平方+(0.341)+(0.341)平方平方=0.919=0.919l特殊因子方差(剩余方差)特殊因子方差(剩余方差)-各变量的特殊因素影响大小就是各变量的特殊因素影响大小就是1 1减减掉该变量共同度的值。如掉该变量共同度的值。如 =1-0.919=0.081=1-0.919=0.081第12页,共78页,编辑于2022年,星期六统计意义统计意义:两边求方差两边求方差 所有的公共因子和特殊因子对变量所有的公共因子和特殊因子对变量 的贡献为的贡献为1 1。h hi i2 2反映了全部公共因子反映了全部公共因子对变
13、量对变量X Xi i*的影响,是全部公共因子对变量方差所做出的贡献,或者说的影响,是全部公共因子对变量方差所做出的贡献,或者说X Xi i*对公共因子的共同依赖程度,称为公共因子对变量对公共因子的共同依赖程度,称为公共因子对变量X Xi i*的方差贡献。的方差贡献。H Hi i2 2接近于接近于1 1,表明该变量的原始信息几乎都被选取的公共因子说明了。,表明该变量的原始信息几乎都被选取的公共因子说明了。特殊因子的方差,反映了原有变量方差中无法被公共因子描述的特殊因子的方差,反映了原有变量方差中无法被公共因子描述的比例。比例。第13页,共78页,编辑于2022年,星期六(3 3)特征值特征值-是
14、第是第j j个公共因子个公共因子F Fj j对于对于X X*的每一分量的每一分量X Xi i*所提供的方差所提供的方差的总和。又称第的总和。又称第j j个公共因子的方差贡献。即个公共因子的方差贡献。即每个变量与某一共同因素每个变量与某一共同因素之因素负荷量的平方总和之因素负荷量的平方总和(因子载荷矩阵中某一公共因子列所有因子负(因子载荷矩阵中某一公共因子列所有因子负荷量的平方和)。荷量的平方和)。如因子分析案例中如因子分析案例中 F1F1的特征值的特征值 G=G=(0.8960.896)平方平方+(0.8020.802)平方)平方+(0.5160.516)平方)平方+(0.8410.841)平
15、方)平方+(0.8330.833)平方)平方=3.113=3.113(4 4)方差贡献率)方差贡献率-指公共因子对实测变量的贡献,又称变异量。方差指公共因子对实测变量的贡献,又称变异量。方差贡献率贡献率=特征值特征值G/G/实测变量数实测变量数p p,是衡量公共因子相对重要性的指标,是衡量公共因子相对重要性的指标,G Gi i越大,表明公共因子越大,表明公共因子F Fj j对对X X*的贡献越大,该因子的重要程度越高。的贡献越大,该因子的重要程度越高。如因子分析案例中如因子分析案例中 F1F1的贡献率为的贡献率为3.113/5=62.26%3.113/5=62.26%第14页,共78页,编辑于
16、2022年,星期六因子的基本内容因子的基本内容v1 1、因子分析的基本步骤:、因子分析的基本步骤:(1 1)因子分析的前提条件鉴定)因子分析的前提条件鉴定 考察原始变量之间是否存在较强的相关关系,是否适合进行考察原始变量之间是否存在较强的相关关系,是否适合进行因子分析。因为:因子分析。因为:因子分析的主要任务之一就是对原有变量中信息重叠的部因子分析的主要任务之一就是对原有变量中信息重叠的部分提取和综合成因子,最终实现减少变量个数的目的。所以要分提取和综合成因子,最终实现减少变量个数的目的。所以要求原有变量之间应存在较强的相关关系。否则,如果原有变量求原有变量之间应存在较强的相关关系。否则,如果
17、原有变量相互独立,不存在信息重叠,也就无需进行综合和因子分析。相互独立,不存在信息重叠,也就无需进行综合和因子分析。(2 2)因子提取)因子提取 研究如何在样本数据的基础上提取综合因子。研究如何在样本数据的基础上提取综合因子。第15页,共78页,编辑于2022年,星期六(3 3)因子旋转)因子旋转 通过正交旋转或斜交旋转使提取出的因子具有可解释性。通过正交旋转或斜交旋转使提取出的因子具有可解释性。(4 4)计算因子得分)计算因子得分 通过各种方法求解各样本在各因子上的得分,为进一通过各种方法求解各样本在各因子上的得分,为进一步分析奠定基础。步分析奠定基础。第16页,共78页,编辑于2022年,
18、星期六v2 2、因子分析前提条件、因子分析前提条件相关性分析:相关性分析:分析方法主要有:分析方法主要有:(1 1)计算相关系数矩阵)计算相关系数矩阵(correlation correlation coefficients matrix)coefficients matrix)如果相关系数矩阵中的大部分相关系数如果相关系数矩阵中的大部分相关系数值均小于值均小于0.30.3,即各变量间大多为弱相关,即各变量间大多为弱相关,原则上这些变量不适合进行因子分析。原则上这些变量不适合进行因子分析。(2 2)计算反映象相关矩阵()计算反映象相关矩阵(Anti-image Anti-image corre
19、lation matrix)correlation matrix)第17页,共78页,编辑于2022年,星期六反映象相关矩阵,如果其主对角线外的元素大多绝对值较反映象相关矩阵,如果其主对角线外的元素大多绝对值较小,对角线上的元素值较接近小,对角线上的元素值较接近1 1,则说明这些变量的相关性,则说明这些变量的相关性较强,适合进行因子分析。较强,适合进行因子分析。其中主对角线上的元素为某变量的其中主对角线上的元素为某变量的MSA(Measure of Sample MSA(Measure of Sample Adequacy)Adequacy):是变量是变量 和变量和变量 ()间的简单相关系数,
20、间的简单相关系数,是变量是变量 和变量和变量 ()在控制了其他变量影响下的偏相关在控制了其他变量影响下的偏相关系数,即净相关系数。系数,即净相关系数。取值在取值在0 0和和1 1之间,越接近之间,越接近1 1,意味着变,意味着变量量 与其他变量间的相关性越强,越接近与其他变量间的相关性越强,越接近0 0则相关性越弱。则相关性越弱。第18页,共78页,编辑于2022年,星期六(3 3)巴特利特球度检验()巴特利特球度检验(Bartlett test of sphericity)Bartlett test of sphericity)该检验以原有变量的相关系数矩阵为出发点,其零假设该检验以原有变量
21、的相关系数矩阵为出发点,其零假设H0H0是:相是:相关系数矩阵为单位矩阵,即相关系数矩阵主对角元素均为关系数矩阵为单位矩阵,即相关系数矩阵主对角元素均为1 1,非主对,非主对角元素均为角元素均为0 0。(即原始变量之间无相关关系)。(即原始变量之间无相关关系)。依据相关系数矩阵的行列式计算可得其近似服从卡方分布。如果依据相关系数矩阵的行列式计算可得其近似服从卡方分布。如果统计量卡方值较大且对应的统计量卡方值较大且对应的sigsig值小于给定的显著性水平值小于给定的显著性水平a a时,零假设时,零假设不成立。即说明相关系数矩阵不太可能是单位矩阵,变量之间存在相不成立。即说明相关系数矩阵不太可能是
22、单位矩阵,变量之间存在相关关系,适合做因子分析。关关系,适合做因子分析。第19页,共78页,编辑于2022年,星期六(4 4)KMO(Kaiser-Meyer-Olkin)KMO(Kaiser-Meyer-Olkin)检验检验 KMOKMO检验的统计量是用于比较变量间简单相关系数矩阵和偏相关检验的统计量是用于比较变量间简单相关系数矩阵和偏相关系数的指标,数学定义为:系数的指标,数学定义为:KMO KMO与与MSAMSA区别是它将相关系数矩阵中的所有元素都加入到了平方区别是它将相关系数矩阵中的所有元素都加入到了平方和计算中。和计算中。KMOKMO值越接近值越接近1 1,意味着变量间的相关性越强,
23、原有变,意味着变量间的相关性越强,原有变量适合做因子分析;越接近量适合做因子分析;越接近0 0,意味变量间的相关性越弱,越不,意味变量间的相关性越弱,越不适合作因子分析。适合作因子分析。KaiserKaiser给出的给出的KMOKMO度量标准:度量标准:0.90.9以上非常适合;以上非常适合;0.80.8表示适合;表示适合;0.70.7表示一般;表示一般;0.60.6表示不太适合;表示不太适合;0.50.5以下表示极不以下表示极不适合。适合。第20页,共78页,编辑于2022年,星期六v3 3、因子提取和因子载荷矩阵的求解:、因子提取和因子载荷矩阵的求解:因子载荷矩阵求解的方法:因子载荷矩阵求
24、解的方法:(1 1)基于主成分模型的主成分分析法)基于主成分模型的主成分分析法 (2 2)基于因子分析模型的主轴因子法)基于因子分析模型的主轴因子法 (3 3)极大似然法极大似然法 (4 4)最小二乘法)最小二乘法 (5 5)a a因子提取法因子提取法 (6 6)映象分析法)映象分析法第21页,共78页,编辑于2022年,星期六(1 1)基于主成分模型的主成分分析法)基于主成分模型的主成分分析法Principal componentsPrincipal components设随机向量 的均值为,协方差为,为的特征根,为对应的标准化特征向量,则第22页,共78页,编辑于2022年,星期六上式给出
25、的上式给出的 表达式是精确的,然而,它实际上是毫无价值表达式是精确的,然而,它实际上是毫无价值的,因为我们的目的是寻求用少数几个公共因子解释,故略的,因为我们的目的是寻求用少数几个公共因子解释,故略去后面的去后面的p-mp-m项的贡献,有:项的贡献,有:第23页,共78页,编辑于2022年,星期六上式有一个假定,模型中的特殊因子是不重要的,因而从上式有一个假定,模型中的特殊因子是不重要的,因而从 的分解中忽略了特殊因子的方差。的分解中忽略了特殊因子的方差。第24页,共78页,编辑于2022年,星期六 例例:假定某地固定资产投资率假定某地固定资产投资率 ,通货膨胀率,通货膨胀率 ,失业率,失业率
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 应用 统计学 因子分析 幻灯片
限制150内