SPSS数据的主成分分析3.ppt
《SPSS数据的主成分分析3.ppt》由会员分享,可在线阅读,更多相关《SPSS数据的主成分分析3.ppt(69页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、zf2o蒋亮,罗汉蒋亮,罗汉我国东西部城市经济实力比较的主成分分我国东西部城市经济实力比较的主成分分析析,经济数学经济数学,2003年年3期期 o田波平等田波平等主成分分析在中国上市公司综合评价中的作主成分分析在中国上市公司综合评价中的作用用,数学的实践与认识数学的实践与认识,2004年年4期期o江冬明江冬明主成份分析在证券市场个股评析中的应用主成份分析在证券市场个股评析中的应用,数理统计与管理数理统计与管理,2001 年年3期期主成分分析在综合评价中的应用:主成分分析在综合评价中的应用:zf3o陈耀辉,景睿陈耀辉,景睿沪深股市市场收益率成因的主成份分沪深股市市场收益率成因的主成份分析析,南京
2、航空航天大学学报南京航空航天大学学报,2000年年2期。期。主成分用于成因分析:主成分用于成因分析:zf4o王冬:王冬:我国外汇储备增长因素主成分分析我国外汇储备增长因素主成分分析,北京北京工商大学学报工商大学学报( 社会科学版社会科学版), 2006年年4期。期。主成分回归分析:主成分回归分析:主成分用于判别分析等统计方法中主成分用于判别分析等统计方法中zf5o多个指标的问题多个指标的问题: :v1 1、指标与指标可能存在相关关系指标与指标可能存在相关关系 信息重叠,分析偏误信息重叠,分析偏误v2 2、指标太多,增加问题的指标太多,增加问题的复杂性复杂性和和分析难度分析难度 如何避免?如何避
3、免?zf6主成分分析的基本思想主成分分析的基本思想 一项十分著名的工作是美国的统计学家斯通(stone)在1947年关于国民经济的研究。他曾利用美国1929一1938年各年的数据,得到了17个反映国民收入与支出的变量要素,例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息、利息外贸平衡等等。在进行主成分分析后,竟以97.4的精度,用三新变量就取代了原17个变量。根据经济学知识,斯通给这三个新变量分别命名为总收入F1、总收入变化率F2和经济发展或衰退的趋势F3。zf7v更有意思的是,这三个变量其实都是可以直接测量的。斯通将他得到的主成分与实际测量的总收入I、总收入变化率I以及时间t因素
4、做相关分析,得到下表: F1F1F2F2F3F3i ii it tF1F11 1 F2F20 01 1 F3F30 00 01 1 i i0.9950.995-0.041-0.0410.0570.057l l i i-0.056-0.0560.9480.948-0.124-0.124-0.102-0.102l l t t-0.369-0.369-0.282-0.282 -0.836-0.836-0.414-0.414-0.112-0.1121 1zf8主成分分析:主成分分析:将原来具有相关关系的多个指标简化为少数几个将原来具有相关关系的多个指标简化为少数几个新的综合指标的多元统计方法。新的综合
5、指标的多元统计方法。主成分:主成分:由原始指标综合形成的几个新指标。依据主成分所含由原始指标综合形成的几个新指标。依据主成分所含信息量的大小成为第一主成分,第二主成分等等。信息量的大小成为第一主成分,第二主成分等等。主成分与原始变量之间的关系主成分与原始变量之间的关系: (1 1)主成分保留了原始变量绝大多数信息。)主成分保留了原始变量绝大多数信息。 (2 2)主成分的个数大大少于原始变量的数目。)主成分的个数大大少于原始变量的数目。 (3 3)各个主成分之间互不相关。)各个主成分之间互不相关。 (4 4)每个主成分都是原始变量的线性组合。)每个主成分都是原始变量的线性组合。zf9主成分分析通
6、常的做法:寻求原指标的线性组合主成分分析通常的做法:寻求原指标的线性组合Fi。ppppppppppXuXuXuFXuXuXuFXuXuXuF22112222121212121111AXXXXuuuuuuuuuFPpppppp21212222111211数学模型主成分表达式数学模型主成分表达式zf10v假设有n个样品,每个样品有两个观测变量xl和x2,在由变量xl和x2 所确定的二维平面中,n个样本点所散布的情况如椭圆状。如图所示:几何解释坐标旋转变换几何解释坐标旋转变换2F1F1x2x平移、旋转坐标轴zf112x1x1F2F平移、旋转坐标轴zf122x1x1F2F 平移、旋转坐标轴zf13v由
7、图可以看出这n个样本点无论是沿着xl 轴方向或x2轴方向都具有较大的离散性,其离散的程度可以分别用观测变量xl 的方差和x2 的方差定量地表示。显然,如果只考虑xl和x2 中的任何一个,那么包含在原始数据中的经济信息将会有较大的损失。v如果我们将xl 轴和x2轴先平移,再同时按逆时针方向旋转角度,得到新坐标轴Fl和F2。Fl和F2是两个新变量。Fl轴方向上的离散程度最大,即轴方向上的离散程度最大,即Fl的方差最大。说明变量的方差最大。说明变量Fl代表了原始代表了原始数据的绝大部分信息,即使不考虑变量数据的绝大部分信息,即使不考虑变量F2也无损大局。也无损大局。zf14v旋转变换的目的:旋转变换
8、的目的:将原始数据的大部分信息集中到将原始数据的大部分信息集中到Fl轴上,对轴上,对数据中包含的信息起到了浓缩作用。数据中包含的信息起到了浓缩作用。v主成分分析的主成分分析的几何意义几何意义:主成分分析的过程也就是坐标旋转的:主成分分析的过程也就是坐标旋转的过程,各主成分表达式就是新坐标系与原坐标系的转换关系,过程,各主成分表达式就是新坐标系与原坐标系的转换关系,新坐标系中各坐标轴的方向就是原始数据方差最大的方向。新坐标系中各坐标轴的方向就是原始数据方差最大的方向。其优点:其优点:(1)可达到简化数据结构的目的。()可达到简化数据结构的目的。(2)新产生的综合变量)新产生的综合变量Fl,F2具
9、有不相关的性质,从而避免了信息重叠所带来的虚假性。具有不相关的性质,从而避免了信息重叠所带来的虚假性。zf15 了解了主成分分析的基本思想、数学和几何意义后,问题的关键:1 1、如何求解主成分?、如何求解主成分? 2 2、如何确定主成分个数?、如何确定主成分个数? 3 3、如何解释主成分所包含的经济意义?、如何解释主成分所包含的经济意义?zf16如何求解主成分?如何求解主成分? (1 1)基于协方差矩阵求解主成分)基于协方差矩阵求解主成分v假设有n个样本,每个样本有 p 个观测变量。运用主成分分析构造以下 p 个主成分关于原始变量的线性组合模型:pppppppppxaxaxaFpxaxaxaF
10、xaxaxaF22112222121121211121AXXXXaaaaaaaaaFPpppppp21212222111211zf17v假设假设p个原始变量的协方差阵为个原始变量的协方差阵为:PPPPPPX212222111211; 0,;,2231132112212211且不全为对角线外的元素的方差分别代表对角线上的元素pppppxxx对角线外的元素不为对角线外的元素不为0 0意味着:原始变量之意味着:原始变量之间有相关关系间有相关关系zf18如何运用主成分分析将这些具有相关关系的变量转化为如何运用主成分分析将这些具有相关关系的变量转化为没有相关关系的新变量(主成分)呢?没有相关关系的新变量
11、(主成分)呢?新变量(即主成分)之间没有相关关系,其协方差阵为新变量(即主成分)之间没有相关关系,其协方差阵为对角矩阵对角矩阵:p001对角线上的元素对角线上的元素1、2p分别为第一、分别为第一、二二第第p个主成分方个主成分方差;同时也是原始变差;同时也是原始变量协方差阵的特征根量协方差阵的特征根主成分表达式的系数项即主成分表达式的系数项即是是1、2p的特征向量的特征向量zf19v1、主成分的协方差阵为对角矩阵;、主成分的协方差阵为对角矩阵;v2、v3、 v4、 第第j个主成分的方差贡献为个主成分的方差贡献为: ., 2 , 1,21pjpjpiiFVar321),()()()()()(321
12、321xpptrXVarXVarXVarXVar主成分包含主成分包含了原始变量了原始变量的所有信息的所有信息协方差矩阵求解中主成分的性质协方差矩阵求解中主成分的性质该比率为第该比率为第j个主成分方差与原个主成分方差与原始变量的总方差之比。始变量的总方差之比。zf20 k 个主成分的累积方差贡献率为: 累积方差贡献率越接近1,表示k 个主成分包含原始变量的信息越多。v5. 主成分载荷:主成分载荷:v6. 主成分Fj与原始变量Xi相关系数的平方: (1)可看作为第j 个主成分可解释Xi多少比率的信息 (2)可看作为Xi在第j 个主成分中的相对重要性iijijjiijijjiaaFx),(iijij
13、Fxaji2),(2.,2121pkpkzf21主成分的求解主成分的求解 (2 2)基于相关系数矩阵求解主成分基于相关系数矩阵求解主成分v假设假设p个原始变量的相关系数矩阵阵为个原始变量的相关系数矩阵阵为:v注意(注意(1 1): :相关系数矩阵可看作原始变量协方差阵的标准化形相关系数矩阵可看作原始变量协方差阵的标准化形式,式,即:即:原始变量原始变量标准化的协方差矩阵。标准化的协方差矩阵。v注意(注意(2 2): :运用主成分分析法时,若原始变量量纲不一致时,运用主成分分析法时,若原始变量量纲不一致时,需对变量进行标准化处理基于协方差阵求解主成分;若不标准需对变量进行标准化处理基于协方差阵求
14、解主成分;若不标准化则基于相关系数矩阵求解主成分。化则基于相关系数矩阵求解主成分。11121221112212222111211ppppppppppjjiijixxxxji),cov(),(对角线外元素不对角线外元素不全为全为0 0:原始变量原始变量间有相关关系间有相关关系zf22转化形成的没有相关关系的新变量(即主成分)的协方转化形成的没有相关关系的新变量(即主成分)的协方差阵为差阵为对角矩阵对角矩阵:p001对角线上的元素对角线上的元素1 1、2 2p p分别为分别为第一、二第一、二第第p p个主成分方差;同时个主成分方差;同时也是原始变量相关系也是原始变量相关系数矩阵的特征根数矩阵的特征
15、根主成分表达式的系数项即主成分表达式的系数项即是是1、2p的特征向量的特征向量zf23相关系数矩阵求解中主成分的性质相关系数矩阵求解中主成分的性质v1、主成分的协方差矩阵为对角阵、主成分的协方差矩阵为对角阵.v2.v3、v4、第、第k个主成分的方差贡献率为:个主成分的方差贡献率为: 前前k个主成分的累积方差贡献率为:个主成分的累积方差贡献率为:v5、主成分载荷:、主成分载荷: v6、主成分载荷的平方:、主成分载荷的平方:*),(jijjiaFx*22),(jijFxajipk/)(*1*3*2*1*),(piithenFVarLetpXVarXVarXVarXVarpp)()()()(321*
16、3*2*1pk/*在解释第在解释第j个主个主成分的意义上成分的意义上起着重要作用起着重要作用 (1)可看作为第)可看作为第j 个主成分可解释个主成分可解释Xi多少比率的信息(或:多少比率的信息(或: Xi 的信息有多的信息有多少可被第少可被第j个主成分解释个主成分解释);); (2)可看作为)可看作为Xi在第在第j 个主成分中的相对重要性。个主成分中的相对重要性。zf24主成分个数的确定主成分个数的确定累积方差贡献率(累积方差贡献率( Cumulative variance explained by components ): 通常要求累积方差贡献率达到通常要求累积方差贡献率达到85%以上以上
17、来确定主成分个数。来确定主成分个数。 特征根(特征根(eigenvalue):根据特征根来确定根据特征根来确定 ; 数数据标准化情况下:据标准化情况下: v碎石图(碎石图(Scree plot):):依据依据特征值的变化来确定,即特特征值的变化来确定,即特征值征值变化趋势图由陡坡变为平坦的转折点即为主成分选变化趋势图由陡坡变为平坦的转折点即为主成分选择的最佳个数。择的最佳个数。i111piiipzf25主成分的解释主成分的解释v运用主成分载荷解释主成分:运用主成分载荷解释主成分: 陈耀辉,景睿沪深股市市场收益率成因的主成份分析,南京航陈耀辉,景睿沪深股市市场收益率成因的主成份分析,南京航空航天
18、大学学报,空航天大学学报,20002000年年2 2期。期。 蒋亮,罗汉我国东西部城市经济实力比较的主成分分析,经济蒋亮,罗汉我国东西部城市经济实力比较的主成分分析,经济数学,数学,20032003年年3 3期。期。v运用主成分得分系数矩阵解释主成分:运用主成分得分系数矩阵解释主成分: 王冬我国外汇储备增长因素主成分分析,北京工商大学学报,王冬我国外汇储备增长因素主成分分析,北京工商大学学报,20062006年年4 4期。期。 田波平等主成分分析在中国上市公司综合评价中的作用,数学田波平等主成分分析在中国上市公司综合评价中的作用,数学的实践与认识,的实践与认识,20042004年年4 4期期z
19、f26v基于相关系数矩阵的主成分分析。对美国纽约上市的有关化学产业的三支股票基于相关系数矩阵的主成分分析。对美国纽约上市的有关化学产业的三支股票(Allied Chemical, du Pont, Union Carbide)和石油产业的和石油产业的2支股票支股票(Exxon and Texaco )做了做了100周的收益率调查(周的收益率调查(1975年年1月月1976年年10月)。月)。 1)利用相关系数矩阵做主成分分析。)利用相关系数矩阵做主成分分析。 2)决定要保留的主成分个数,并解释意义。)决定要保留的主成分个数,并解释意义。主成分解释的案例分析主成分解释的案例分析zf27o(1)
20、(1) 相关系数矩阵:相关系数矩阵:10.5770.5090.3870.4620.57710.5990.3890.3220.5090.59910.4360.4260.3870.3890.43610.5230.4620.3220.4260.5231运用主成分分析法进行分析得到以下结果:运用主成分分析法进行分析得到以下结果:zf28p(2 2)相关系数矩阵的特征根:)相关系数矩阵的特征根: Eigenvalues of the Correlation Matrix Eigenvalue Difference Proportion Cumulative PRIN1 2.85671 2.04755 0
21、.571342 0.57134 PRIN2 0.80916 0.26949 0.161833 0.73317 PRIN3 0.53968 0.08818 0.107935 0.84111 PRIN4 0.45150 0.10855 0.090300 0.93141 PRIN5 0.34295 . 0.068590 1.00000p(3 3)特征根所对应的特征向量:)特征根所对应的特征向量: Eigenvectors PRIN1 PRIN2 PRIN3 PRIN4 PRIN5 X1 0.463605 -.240339 -.611705 0.386635 -.451262 X2 0.457108
22、-.509305 0.178189 0.206474 0.676223 X3 0.470176 -.260448 0.335056 -.662445 -.400007 X4 0.421459 0.525665 0.540763 0.472006 -.175599 X5 0.421224 0.581970 -.435176 -.382439 0.385024zf29p(4 4)前两大主成分的累积方差贡献率:)前两大主成分的累积方差贡献率:p(5 5)前两大主成分的表达式:)前两大主成分的表达式:zf30 p(6 6)碎石图:)碎石图:zf31v主成分的解释:主成分的解释: 1、第一大主成分PRI
23、N1几乎是5只股票的等权平均;可将它看做股票收益率的“市场影响因素” (market component) 2、第二大主成分PRIN2 系数在AC, DP, UC (chemical stocks) 等3只股票上表现为负,而在 EX, TE (oil stocks)等两只股票的系数表现为正; 可将它看作为股票收益率的“行业影响因素”(industry component)zf32主成分分析步骤及框图主成分分析步骤及框图主成分分析步骤:主成分分析步骤:1.1.根据研究问题选取初始分析变量;根据研究问题选取初始分析变量;2.2.根据初始变量特性判断由协方差阵求主成分还是由相关阵求根据初始变量特性判
24、断由协方差阵求主成分还是由相关阵求主成分;主成分;3.3.求协差阵或相关阵的特征根与相应标准特征向量;求协差阵或相关阵的特征根与相应标准特征向量;4.4.判断是否存在明显的多重共线性,若存在,则回到第一步;判断是否存在明显的多重共线性,若存在,则回到第一步;5.5.得到主成分的表达式并确定主成分个数,选取主成分;得到主成分的表达式并确定主成分个数,选取主成分;6.6.结合主成分对研究问题进行分析并深入研究。结合主成分对研究问题进行分析并深入研究。zf33主成分分析框图:主成分分析框图:特征值特征值标准正交特征向量标准正交特征向量是否有接近是否有接近0 0的情况的情况是是其他处理其他处理否否主成
25、分主成分对主成分进行分析对主成分进行分析深入分析深入分析选择初始变量选择初始变量 度量或取值度量或取值范围相同?范围相同?是是否否(否)(否)对比对比分析相关阵分析相关阵分析协方差阵分析协方差阵 zf34主成分分析的上机实现主成分分析的上机实现SPSSSPSS 操作操作1、analyze-description statistic-description-save standardized as variables (若需要数据标准化,则进行该操作,一般在主成分分若需要数据标准化,则进行该操作,一般在主成分分析过程中软件已自动进行了此操作)析过程中软件已自动进行了此操作)2、analyze-d
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- SPSS 数据 成分 分析
限制150内