第13章主成分分析和因子分析优秀PPT.ppt

《第13章主成分分析和因子分析优秀PPT.ppt》由会员分享，可在线阅读，更多相关《第13章主成分分析和因子分析优秀PPT.ppt（21页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第第13章主成分分析和章主成分分析和因子分析因子分析现在学习的是第1页，共21页13.1 主成分分析主成分分析n13.1.1 13.1.1 主成分分析的基本原理主成分分析的基本原理n13.1.2 13.1.2 主成分分析的数学模型主成分分析的数学模型n13.1.3 13.1.3 主成分分析的步骤主成分分析的步骤n13.1.4 13.1.4 主成分分析的主成分分析的StataStata命令命令现在学习的是第2页，共21页n主成分的概念由主成分的概念由Karl PearsonKarl Pearson在在19011901年提出年提出n考察多个变量间相关性一种多元统计方法考察多个变量间相关性一种多元统

2、计方法n研研究究如如何何通通过过少少数数几几个个主主成成分分(principal(principal component)component)来来解解释释多多个个变变量量间间的的内内部部结结构构。即即从从原原始始变变量量中中导导出出少少数数几几个个主主分分量量，使使它们尽可能多地保留原始变量的信息，且彼此间互不相关它们尽可能多地保留原始变量的信息，且彼此间互不相关n主成分分析的目的：数据的压缩；数据的解释主成分分析的目的：数据的压缩；数据的解释n常常被被用用来来寻寻找找判判断断事事物物或或现现象象的的综综合合指指标标，并并对对综综合合指指标标所所包包含的信息进行适当的解释含的信息进行适当的解释

3、什么是主成分分析？什么是主成分分析？(principal component analysis)现在学习的是第3页，共21页n对对这这两两个个相相关关变变量量所所携携带带的的信信息息(在在统统计计上上信信息息往往往往是是指指数数据据的变异的变异)进行浓缩处理进行浓缩处理n假假定定只只有有两两个个变变量量x x1 1和和x x2 2，从从散散点点图图可可见见两两个个变变量量存存在在相相关关关关系系，这意味着两个变量提供的信息有重叠这意味着两个变量提供的信息有重叠主成分分析的基本思想主成分分析的基本思想(以两个变量为例以两个变量为例)n如如果果把把两两个个变变量量用用一一个个变变量量来来表表示示，

4、同同时时这这一一个个新新的的变变量量又又尽尽可可能能包包含含原原来来的的两两个个变变量量的的信信息，这就是降维的过程息，这就是降维的过程现在学习的是第4页，共21页n数学上的处理是将原始的数学上的处理是将原始的p p个变量作线性组合，作为新的变量个变量作线性组合，作为新的变量n设设p p个个 原原 始始 变变 量量 为为 ，新新 的的 变变 量量(即即 主主 成成 分分)为为 ，主成分和原始变量之间的关系表示为，主成分和原始变量之间的关系表示为主成分分析的数学模型主成分分析的数学模型主成分分析的数学模型主成分分析的数学模型aij为为第第i个个主主成成分分yi和和原原来来的的第第j个个变变量量x

5、j之之间间的的线线性性相相 关关 系系 数数，称称 为为 载载 荷荷(loading)。比比如如，a11表表示示第第1主主成成分分和和原原来来的的第第1个个变变量量之之间间的的相相关关系系数数，a21表表示示第第2主主成成分分和和原原来来的的第第1个个变量之间的相关系数变量之间的相关系数现在学习的是第5页，共21页n对原来的对原来的p p个指标进行标准化，以消除变量在水平和量纲上的影响个指标进行标准化，以消除变量在水平和量纲上的影响n根据标准化后的数据矩阵求出相关系数矩阵根据标准化后的数据矩阵求出相关系数矩阵n求出协方差矩阵的特征根和特征向量求出协方差矩阵的特征根和特征向量n确定主成分，并对各

6、主成分所包含的信息给予适当的解释确定主成分，并对各主成分所包含的信息给予适当的解释主成分分析的步骤主成分分析的步骤现在学习的是第6页，共21页Stata命令命令npca、pcamatnestatnscreeplotnscoreplot、loadingplotnrotatenpredict现在学习的是第7页，共21页【例例】根根据据20082008年年一一季季度度沪沪深深两两市市农农业业板板上上市市公公司司的的9 9项项主主要要指指标标数数据据，进进行行主主成成分分析，找出主成分并进行适当的解释分分析，找出主成分并进行适当的解释主成分分析主成分分析(实例分析实例分析)基本情况公司成长性指标公司盈

7、利能力性指标公司股本扩张能力指标公司名称ROA主营收入增长率净利润增长率主营业务利润率ROEEPS每股净资产每股公积金总资产增长率禾嘉股份0.0630.2320.8220.2580.0090.011.110.050亚盛集团-0.0080.1610.7090.1430.0060.0061.1440.0060.047冠农股份0.4380.7550.2840.1070.0030.0041.6210.4210.096St中农-0.02-0.4210.9830.209001.5650.757-0.206敦煌种业0.112-0.1587.1440.3670.0250.0773.0961.988-0.057

8、新农开发0.2770.041-2.3760.251-0.005-0.0163.461.860.392香梨股份0.107-0.0542.101-0.1480.0120.032.511.516-0.234新赛股份0.820.1940.0580.1130.020.1013.832.2850.392现在学习的是第8页，共21页Stata的输出结果的输出结果estat smc 变量之间的存在较强的相关关系，适合作主成分分析变量之间的存在较强的相关关系，适合作主成分分析 现在学习的是第9页，共21页Stata的输出结果的输出结果(选择主成分选择主成分)该表是选则主成分的主要依据该表是选则主成分的主要依据现

9、在学习的是第10页，共21页n“Initial EigenvaluesInitial Eigenvalues”(初始特征根初始特征根)n实际上就是本例中的实际上就是本例中的9 9个主轴的长度个主轴的长度n特特征征根根反反映映了了主主成成分分对对原原始始变变量量的的影影响响程程度度，表表示示引引入入该主成分后可以解释原始变量的信息该主成分后可以解释原始变量的信息n特特征征根根又又叫叫方方差差，某某个个特特征征根根占占总总特特征征根根的的比比例例称称为为主主成成分方差贡献率分方差贡献率n设特征根为设特征根为，则第，则第i i个主成分的方差贡献率为个主成分的方差贡献率为n比比如如，第第一一个个主主成

10、成分分的的特特征征根根为为3.543543.54354，占占总总特特征征根根的的的的比比例例(方方差差贡贡献献率率)为为39.37%39.37%，这这表表示示第第一一个个主主成成分分解解释释了了原原始始9 9个个变变量量39.37%39.37%的的信信息息，可可见见第第一一个个主主成成分分对对原原来来的的9 9个变量解释的还不是很充分个变量解释的还不是很充分根据什么选择主成分？根据什么选择主成分？现在学习的是第11页，共21页n根据主成分贡献率根据主成分贡献率n一一般般来来说说，主主成成分分的的累累计计方方差差贡贡献献率率达达到到80%80%以以上上的的前前几几个个主成分，都可以选作最后的主成

11、分主成分，都可以选作最后的主成分n比如表中前比如表中前3 3个主成分的累计方差贡献率为个主成分的累计方差贡献率为78.13%78.13%n根据特特征根的大小根据特特征根的大小n一一般般情情况况下下，当当特特征征根根小小于于1 1时时，就就不不再再选选作作主主成成分分了了，因因为该主成分的解释力度还不如直接用原始变量解的释力度大为该主成分的解释力度还不如直接用原始变量解的释力度大n比比如如表表中中除除前前3 3个个外外，其其他他主主成成分分的的特特征征根根都都小小于于1 1。所所以只选择了以只选择了3 3个主成分个主成分根据什么选择主成分？根据什么选择主成分？现在学习的是第12页，共21页nSt

12、ataStata还还提提供供了了一一个个更更为为直直观观的的图图形形工工具具来来帮帮助助选选择择主主成成分，即碎石图分，即碎石图(Scree Plot)(Scree Plot)n从从碎碎石石图图可可以以看看到到9 9个个主主轴轴长度变化的趋势长度变化的趋势n实实践践中中，通通常常结结合合具具体体情情况况，选选择择碎碎石石图图中中变变化化趋趋势势出出现现拐拐点点的的前前几几个个主主成成分分作作为为原原先先变变量量的的代代表表，该例中选择前该例中选择前3 3个主成分即可个主成分即可根据什么选择主成分？根据什么选择主成分？(Scree Plot)现在学习的是第13页，共21页怎样解释主成分？怎样解释

13、主成分？主成分的因子载荷矩阵主成分的因子载荷矩阵 n表表1中中的的每每一一列列表表示示一一个个主主成成分分作作为为原原来来变变量量线线性性组组合合的的系数，也就是主成分分析模型中的系数系数，也就是主成分分析模型中的系数aijn比比如如，第第一一主主成成分分所所在在列列的的系系数数-0.0364表表示示第第1个个主主成成分分和和原原来来的的第第一一个个变变量量(ROA)之之间间的的线线性性相相关关系系数数。这这个个系系数数越越大，说明主成分对该变量的代表性就越大大，说明主成分对该变量的代表性就越大现在学习的是第14页，共21页n载荷图(Loading Plot)直观显示主成分对原始9变量的解释情

14、况n图中横轴表示第一个主成分与原始变量间的相关系数；纵轴表示第二个主成分与原始变量之间的相关系数n每一个变量对应的主成分载荷就对应坐标系中的一个点n第一个主成分很充分地解释了原始的后4个变量(与每个原始变量都有较强的正相关关系)，第二个主成分则较好地var2,var3,var5,var6这2个变量(与它们的相关关系较高)，而与其他变量的关系则较弱(相关系数的点靠近坐标轴)怎样解释主成分？怎样解释主成分？(Loading Plot)现在学习的是第15页，共21页13.2 因子分析因子分析n13.2.1 13.2.1 因子分析的基本原理因子分析的基本原理n13.2.2 13.2.2 因子因子分析的

15、数学模型分析的数学模型n13.2.3 13.2.3 因子分析的步骤因子分析的步骤n13.2.4 13.2.4 因子分析的因子分析的StataStata命令命令现在学习的是第16页，共21页n因子分析可以看作是主成分分析的推广和扩展，但它对问题的研究更深入、更细致一些。实际上，主成分分析可以看作是因子分析的一个特例n简言之，因子分析是通过对变量之间关系的研究，找出能综合原始变量的少数几个因子，使得少数因子能够反映原始变量的绝大部分信息，然后根据相关性的大小将原始变量分组，使得组内的变量之间相关性较高，而不同组的变量之间相关性较低。因此，因子分析属于多元统计中处理降维的一种统计方法，其目的就是要减

16、少变量的个数，用少数因子代表多个原始变量什么是因子分析？什么是因子分析？(factor analysis)现在学习的是第17页，共21页n原始的原始的p个变量表达为个变量表达为k个因子的线性组合变量个因子的线性组合变量n设设p个个原原始始变变量量为为 ，要要寻寻找找的的k个个因因子子(kp)为为 ，主成分和原始变量之间的关系表示为，主成分和原始变量之间的关系表示为因子分析的数学模型因子分析的数学模型因子分析的数学模型因子分析的数学模型系系数数aij为为第第个个i变变量量与与第第k个个因因子子之之间间的的线线性性相相关关系系数数，反反映映变变量量与与因因子子之之间间的的相相关关程程度度，也也称称

17、为为载载荷荷(loading)。由由于于因因子子出出现现在在每每个个原原始始变变量量与与因因子子的的线线性性组组合合中中，因因此此也也称称为为公公因因子子。为为特特殊殊因因子子，代代表表公公因因子子以以外的因素影响外的因素影响现在学习的是第18页，共21页n共同度量共同度量(Communality)(Communality)n因子的方差贡献率因子的方差贡献率 因子分析的数学模型因子分析的数学模型(共同度量共同度量Communality和公因子的方差贡献率和公因子的方差贡献率)变变量量xi的的信信息息能能够够被被k个个公公因因子子解解释释的的程程度度，用用 k个个公公因因子子对对第第i个个变变量量xi的的方方差差贡贡献献率表示率表示第第j个个公公因因子子对对变变量量xi的的提提供供的的方方差差总总和和，反反映映第第j个个公因子的相对重要程度公因子的相对重要程度现在学习的是第19页，共21页Stata命令命令nfactornestatnscreeplotnscoreplot、loadingplotnrotatenpredict现在学习的是第20页，共21页21本章结束，谢谢观看！本章结束，谢谢观看！现在学习的是第21页，共21页