多元统计分析主成分分析讲稿.ppt

《多元统计分析主成分分析讲稿.ppt》由会员分享，可在线阅读，更多相关《多元统计分析主成分分析讲稿.ppt（83页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、多元统计分析主成分分析第一页，讲稿共八十三页哦主成分分析的基本思想主成分分析的基本思想主成分的计算主成分的计算主成分的性质主成分的性质主成分分析的应用主成分分析的应用主成分回归主成分回归第二页，讲稿共八十三页哦 一项十分著名的工作是美国的统计学家斯通(stone)在1947年关于国民经济的研究。他曾利用美国1929一1938年各年的数据，得到了17个反映国民收入与支出的变量要素，例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息、利息外贸平衡等等。1 基本思想第三页，讲稿共八十三页哦 在进行主成分分析后，竟以97.4的精度，用三新变量就取代了原17个变量。根据经济学知识，斯通给这三个

2、新变量分别命名为总总收收入入F1、总总收收入入变变化化率率F2和经经济济发发展展趋趋势势F3。更有意思的是，这三个变量其实都是可以直接测量的。斯通将他得到的主成分与实际测量的总收入I、总收入变化率I以及时间t因素做相关分析，得到下表：第四页，讲稿共八十三页哦F1F1F2F2F3F3i ii it tF1F11 1F2F20 01 1F3F30 00 01 1i i0.9950.995-0.041-0.0410.0570.057l li i-0.056-0.0560.9480.948-0.124-0.124-0.102-0.102l lt t-0.369-0.369-0.282-0.282-0.

3、836-0.836-0.414-0.414-0.112-0.1121 1第五页，讲稿共八十三页哦主成分分析的基本思想 主成分分析就是把原有的多个指标转化成少数几个代表性较好的综合指标，这少数几个指标能够反映原来指标大部分的信息（85%以上），并且各个指标之间保持独立，避免出现重叠信息。主成分分析主要起着降维和简化数据结构的作用。第六页，讲稿共八十三页哦 主成分分析是把各变量之间互相关联的复杂关系进行简化分析的方法。在社会经济的研究中，为了全面系统的分析和研究问题，必须考虑许多经济指标，这些指标能从不同的侧面反映我们所研究的对象的特征，但在某种程度上存在信息的重叠，具有一定的相关性。第七页，讲稿

4、共八十三页哦 主成分分析试图在力保数据信息丢失最少的原则下，对这种多变量的截面数据表进行最佳综合简化，也就是说，对高维变量空间进行降维处理。很显然，识辨系统在一个低维空间要比在一个高维空间容易得多。第八页，讲稿共八十三页哦2 数学模型与几何解释 假设我们所讨论的实际问题中，有p个指标，我们把这p个指标看作p个随机变量，记为X1，X2，Xp，主成分分析就是要把这p个指标的问题，转变为讨论 m 个新的指标F1，F2，Fm(mp），按照保留主要信息量的原则充分反映原指标的信息，并且相互独立。第九页，讲稿共八十三页哦其中第十页，讲稿共八十三页哦这种由讨论多个指标降为少数几个综合指标的过程在数学上就叫做

5、降维。主成分分析通常的做法是，寻求原指标的线性组合Fi。第十一页，讲稿共八十三页哦所以如果不对 加以限制，问题就变得无意义。最大最大因此限制 为单位向量。第十二页，讲稿共八十三页哦满足如下的条件：主成分之间相互独立，即无重叠的信息。即主成分之间相互独立，即无重叠的信息。即主成分的方差依次递减，重要性依次递减，即主成分的方差依次递减，重要性依次递减，即每个主成分的系数平方和为每个主成分的系数平方和为1。即。即第十三页，讲稿共八十三页哦主成分分析的几何解释平移、旋转坐标轴第十四页，讲稿共八十三页哦主成分分析的几何解释平移、旋转坐标轴第十五页，讲稿共八十三页哦主成分分析的几何解释平移、旋转坐标轴第十

6、六页，讲稿共八十三页哦 旋转变换的目的是为了使得n个样品点在Fl轴方向上的离散程度最大，即Fl的方差最大。变量Fl代表了原始数据的绝大 部分信息，在研究某经济问题时，即使不考虑变量F2也无损大局。经过上述旋转变换原始数据的大部分信息集中到Fl轴上，对数据中包含的信息起到了浓缩作用。第十七页，讲稿共八十三页哦 Fl，F2除了可以对包含在Xl，X2中的信息起着浓缩作用之外，还具有不相关的性质，这就使得在研究复杂的问题时避免了信息重叠所带来的虚假性。二维平面上的n个点的方差大部分都归结在Fl轴上，而F2轴上的方差很小。Fl和F2称为原始变量x1和x2的综合变量。F简化了系统结构，抓住了主要矛盾。第十

7、八页，讲稿共八十三页哦主成分分析的几何解释平移、旋转坐标轴第十九页，讲稿共八十三页哦3 主成分的计算先讨论二维情形求主成分F1和F2。第二十页，讲稿共八十三页哦观察图，我们已经把主成分F1和F2 的坐标原点放在平均值 所在处，从而使得F1和F2 成为中心化的变量，即F1和F2 的样本均值都为零。第二十一页，讲稿共八十三页哦因此F1可以表示为关键关键是，寻找合适的单位向量 ，使F1的方差最大。最大最大问题的答案问题的答案是：X的协方差矩阵S 的最大特征根 所对应的单位特征向量即为 。并且 就是F1的方差。推导第二十二页，讲稿共八十三页哦同样，F2可以表示为寻找合适的单位向量 ，使F2与F1独立，

8、且使F2的方差（除F1之外）最大。问题的答案问题的答案是：X的协方差矩阵S 的第二大特征根 所对应的单位特征向量即为 。并且 就是F2的方差。推导第二十三页，讲稿共八十三页哦求解主成分的步骤：求解主成分的步骤：1.求样本均值 和样本协方差矩阵S;2.求S的特征根求解特征方程 ，其中I是单位矩阵，解得2个特征根 3.求特征根所对应的单位特征向量4.写出主成分的表达式第二十四页，讲稿共八十三页哦例1 下面是8 个学生两门课程的成绩表 6585709065455565数学10090707085555545语文对此进行主成分分析。1.求样本均值和样本协方差矩阵求样本均值和样本协方差矩阵第二十五页，讲稿

9、共八十三页哦2.求解特征方程 0 化简得：解得：第二十六页，讲稿共八十三页哦3.求特征值所对应的单位特征向量 所对应的单位特征向量 ，其中解得（）=所对应的单位特征向量 ，其中解得：第二十七页，讲稿共八十三页哦4.得到主成分的表达式 第二主成分：第一主成分：5.主成分的含义通过分析主成分的表达式中原变量前的系数来解释各主成分的含义。第一主成分F1是 和 的加权和，表示该生成绩的好坏。第二主成分F2表示学生两科成绩的均衡性 第二十八页，讲稿共八十三页哦6.比较主成分重要性比较主成分重要性 第一主成分F1的方差为第二主成分F2的方差为方差贡献率 方差贡献率为 主成分F1和F2的方差总和为原变量和的

10、方差总和为总总方差保持不方差保持不变变第二十九页，讲稿共八十三页哦身高x1(cm)胸围x2(cm)体重x3(kg)149.5162.5162.7162.2156.5156.1172.0173.2159.5157.769.577.078.587.574.574.576.581.574.579.038.555.550.865.549.045.551.059.543.553.5例2 下表是10位学生的身高、胸围、体重的数据。对此进行主成分分析。第三十页，讲稿共八十三页哦1.求样本均值和样本协方差矩阵 2.求解协方差矩阵的特征方程 3.解得三个特征值 和对应的单位特征向量：第三十一页，讲稿共八十三页哦

11、4.由此我们可以写出三个主成分的表达式：5.主成分的含义F1表示学生身材大小。F2反映学生的体形特征 第三十二页，讲稿共八十三页哦三个主成分的方差贡献率分别为：前两个主成分的累积方差贡献率为：第三十三页，讲稿共八十三页哦例3 对88个学生5 门不同课程的考试成绩进行分析，要求用合适的方法对这5 门课程成绩进行平均，以对88个学生的成绩进行评比。这5门课程是：Mechanics Vectors (闭)，Algebra Analysis Statistics (开)。经计算，得到5个主成分的表达式如下：第三十四页，讲稿共八十三页哦这5个主成分的方差分别为679.2，199.8，102.6,83.7

12、和31.8。前两个主成分各自的贡献率和累积贡献率为第三十五页，讲稿共八十三页哦在一般情况下，设有n个样品，每个样品观测p个指 标，将原始数据排成如下矩阵：第三十六页，讲稿共八十三页哦1.求样本均值和样本协方差矩阵S;2.求解特征方程=0,其中I是单位矩阵,解得p个特征根3.求所对应的单位特征向量 即需求解方程组其中 第三十七页，讲稿共八十三页哦 再加上单位向量的条件 解得 4.写出主成分的表达式 第三十八页，讲稿共八十三页哦根据累积贡献率的大小取前面m 个(m|t|Interceptx1X2x31111-10.12799-0.051400.586950.286851.212160.070280

13、.094620.10221-8.36-0.736.202.810.00010.48830.00040.0263ParameterEstimatesDependentMean21.89091R-Square0.9919RootMSE0.48887AdjR-Sq0.9884SummaryofFit第六十七页，讲稿共八十三页哦F1F2F3x1X2x30.70630.04350.7065-0.03570.9990-0.02580.70700.0070-0.7072EigenvectorsEigenvalueDifferenceProportionCumulativePCR1PCR2PCR31.9992

14、0.99820.00261.00100.99550.66640.33270.00090.66640.99911.0000EigenvaluesoftheCorrelationMatrixF1=0.7063x1+0.0435x2+0.7065x3F2=-0.0357x1+0.9990 x2-0.0258x3第六十八页，讲稿共八十三页哦 SourceDFSumofSquaresMeanSquareF值值ProbFModelErrorTotal28109.88280.117210.00004.94140.0147337.23020.0001AnalysisofVarianceVariableDFEs

15、timateStandardErrort值值Prob|t|F1F2110.69000.19130.02710.038325.48594.99300.00010.0011ParameterEstimates第六十九页，讲稿共八十三页哦标准化后的变量把标准化变量还原，代入得：第七十页，讲稿共八十三页哦影响人们外出旅游的因素有居民收入、交通、闲暇时间、影响人们外出旅游的因素有居民收入、交通、闲暇时间、旅游目的地治安状况、旅游目的地的环境卫生以及接待旅游目的地治安状况、旅游目的地的环境卫生以及接待能力等等。能力等等。由于资料的可得性和代表性，选择以下变量由于资料的可得性和代表性，选择以下变量。国内旅游

16、人数（百万人）农村居民人均纯收入（元）城镇居民人均可支配收入（元）公路线路里程（万公里）数据见sasuser.tourmx例例2 国内旅游人数模型国内旅游人数模型第七十一页，讲稿共八十三页哦VariableDFEstimateStandardErrort值值Prob|t|InterceptIncomeonIncomeocHighway1111417.8201-0.13810.1737-3.000974.02300.06990.03020.81925.6445-1.97595.7589-3.66330.00050.08360.00040.0064ParameterEstimatesDepende

17、ntMean558.1017R-Square0.9920RootMSE19.2003AdjR-Sq0.9890SummaryofFit第七十二页，讲稿共八十三页哦F1F2F3x1X2x30.58100.59180.5588-0.5167-0.26230.81500.6289-0.76220.1533EigenvectorsEigenvalueDifferenceProportionCumulativePCR1PCR2PCR32.80880.18500.00622.62380.17880.93630.06170.00210.93630.99791.0000EigenvaluesoftheCorr

18、elationMatrixF1=0.5810 x1+0.5918x2+0.5588x3F2=-0.5167x1-0.2623x2+0.8150 x3第七十三页，讲稿共八十三页哦 SourceDFSumofSquaresMeanSquareF值值ProbFModelErrorTotal291110.71130.288711.00005.35560.0321166.93280.0001AnalysisofVarianceVariableDFEstimateStandardErrort值值Prob|t|F1F2110.5767-0.46200.03220.125617.8977-3.67940.00

19、010.0051ParameterEstimates第七十四页，讲稿共八十三页哦标准化后的变量把标准化变量还原，代入得：第七十五页，讲稿共八十三页哦选 题地区经济发展现状及潜力分析长江三角洲经济发展状况分析长江三角洲产业发展状况分析城市竞争力评价指标体系区域智力资本的测度区域创新能力对经济增长的影响分析区域智力资本对经济增长的影响分析区域软实力评价体系研究第七十六页，讲稿共八十三页哦主成分的推导主成分的推导 （一）（一）第一主成分第一主成分寻找合适的单位向量 ，使F1的方差最大。第七十七页，讲稿共八十三页哦表明：应为 的特征值，而 为与 对应的单位特征向量。而且可见 应取 的最大特征根。第七十

20、八页，讲稿共八十三页哦如果第一主成分的信息不够，则需要寻找第二主成分。（二）（二）第二主成分第二主成分寻找合适的单位向量 ，使F2的方差最大。第七十九页，讲稿共八十三页哦用 左乘上式，00因而表明：应为 的特征值，而 为与 对应的单位特征向量。而且这时 能再取 了，应取 。第八十页，讲稿共八十三页哦主成分的改进1、无量纲化的改进无量纲化的改进从标准化的数据提取的主成分，实际上只包含了各指标间相互影响这从标准化的数据提取的主成分，实际上只包含了各指标间相互影响这一部分信息，不能准确反映原始数据所包含的全部信息。一部分信息，不能准确反映原始数据所包含的全部信息。第八十一页，讲稿共八十三页哦改进原始数据的无量纲化方法改进原始数据的无量纲化方法 均值化方法均值化方法均值化后，数据的协方差矩阵均值化后，数据的协方差矩阵S中的元素中的元素第八十二页，讲稿共八十三页哦均值化后，数据的协方差矩阵均值化后，数据的协方差矩阵对角线上是原变量标准差系数的平方，其他位置上是对角线上是原变量标准差系数的平方，其他位置上是变量两两之间的相互关系。变量两两之间的相互关系。均值化处理后的协方差矩阵不仅消除了指标量纲与数量均值化处理后的协方差矩阵不仅消除了指标量纲与数量级的影响，还能包含原始数据的全部信息。级的影响，还能包含原始数据的全部信息。第八十三页，讲稿共八十三页哦