主成分分析完整版PPT课件.ppt

《主成分分析完整版PPT课件.ppt》由会员分享，可在线阅读，更多相关《主成分分析完整版PPT课件.ppt（28页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、关于主成分分析完整版第一张，PPT共二十八页，创作于2022年6月主成分分析的基本思想主成分分析的基本思想主成分的计算主成分的计算主成分分析的应用主成分分析的应用第二张，PPT共二十八页，创作于2022年6月主成分分析的基本思想主成分分析的基本思想主主成成分分分分析析就就是是把把原原有有的的多多个个指指标标转转化化成成少少数数几几个个代代表表性性较较好好的的综综合合指指标标，这这少少数数几几个个指指标标能能够够反反映映原原来来指指标标大大部部分分的的信信息息（85%以以上上），并并且且各各个个指指标标之之间间保保持持独独立立，避避免免出出现现重重叠叠信信息息。主成分分析主要起着主成分分析主要起

2、着降维降维和和简化数据结构简化数据结构的作用。的作用。1 1 基本思想基本思想第三张，PPT共二十八页，创作于2022年6月主成分分析是把各变量之间互相关联的复杂关系进行简化分析的方法。主成分分析是把各变量之间互相关联的复杂关系进行简化分析的方法。在在社社会会经经济济的的研研究究中中，为为了了全全面面系系统统的的分分析析和和研研究究问问题题，必必须须考考虑虑许许多多经经济济指指标标，这这些些指指标标能能从从不不同同的的侧侧面面反反映映我我们们所所研研究究的的对对象象的的特特征，但在某种程度上存在信息的重叠，具有一定的相关性。征，但在某种程度上存在信息的重叠，具有一定的相关性。主主成成分分分分析

3、析试试图图在在力力保保数数据据信信息息丢丢失失最最少少的的原原则则下下，对对这这种种多多变变量量的的截截面面数数据据表表进进行行最最佳佳综综合合简简化化，也也就就是是说说，对对高高维维变变量量空空间间进进行行降降维维处理。处理。很很显显然然，识识辨辨系系统统在在一一个个低低维维空空间间要要比比在在一一个个高高维维空空间间容容易易得多。得多。第四张，PPT共二十八页，创作于2022年6月(1)基于相关系数矩阵基于相关系数矩阵/协方差矩阵做主成分分析？协方差矩阵做主成分分析？(2)选择几个主成分？选择几个主成分？(3)如何解释主成分所包含的实际意义？如何解释主成分所包含的实际意义？在在力力求求数数

4、据据信信息息丢丢失失最最少少的的原原则则下下，对对高高维维的的变变量量空空间间降降维维，即即研研究究指指标标体体系系的的少少数数几几个个线线性性组组合合，并并且且这这几几个个线线性性组组合合所所构构成成的的综综合合指指标标将将尽尽可可能能多多地地保保留留原原来来指指标标变变异异方方面面的的信信息息。这这些些综综合合指指标标就就称称为为主主成成分。分。要讨论的问题是：要讨论的问题是：第五张，PPT共二十八页，创作于2022年6月2 2 数学模型与几何解释数学模型与几何解释假设我们所讨论的实际问题中，有假设我们所讨论的实际问题中，有p个指标，我们把这个指标，我们把这p个指标看作个指标看作p个随机变

5、量，记为个随机变量，记为X1，X2，Xp，主成分分析就是要把这，主成分分析就是要把这p个个指标的问题，转变为讨论指标的问题，转变为讨论m个新的指标个新的指标F1，F2，Fm(mp），按），按照保留主要信息量的原则充分反映原指标的信息，并且相互独立。照保留主要信息量的原则充分反映原指标的信息，并且相互独立。其中其中第六张，PPT共二十八页，创作于2022年6月这种由讨论这种由讨论多个指标多个指标降为降为少数几个少数几个综合指标的过程在数学上就叫做综合指标的过程在数学上就叫做降维降维。主成。主成分分析通常的做法是，分分析通常的做法是，寻求原指标的线性组合寻求原指标的线性组合Fi。满足如下的条件：满

6、足如下的条件：主成分之间相互独立，即无重叠的信息。即主成分之间相互独立，即无重叠的信息。即主成分的方差依次递减，重要性依次递减，即主成分的方差依次递减，重要性依次递减，即每个主成分的系数平方和为每个主成分的系数平方和为1。即。即第七张，PPT共二十八页，创作于2022年6月主主成成分分分分析析的的几几何何解解释释旋转坐标轴旋转坐标轴旋转变换的目的是为了使得旋转变换的目的是为了使得n个样本点个样本点在在F1轴方向上的离散程度最大，即轴方向上的离散程度最大，即F1的的方差最大，变量方差最大，变量F1代表了原始数据的代表了原始数据的绝大部分信息，在研究某经济问题时，绝大部分信息，在研究某经济问题时，

7、即使不考虑变量即使不考虑变量F2也损失不多的信息。也损失不多的信息。F1与与F2除起了浓缩作用外，还具有除起了浓缩作用外，还具有不相关性。不相关性。F1称为第一主成分，称为第一主成分，F2称为第二主成称为第二主成分。分。第八张，PPT共二十八页，创作于2022年6月主成分的计算主成分的计算先讨论二维情形先讨论二维情形求第一主成分求第一主成分F1和和F2。我们已经把主成分我们已经把主成分F1和和F2 的坐标原点放在平的坐标原点放在平均值均值 所在处，从而使得所在处，从而使得F1和和F2 成为中心化的成为中心化的变量，即变量，即F1和和F2 的样本均值都为零。的样本均值都为零。第九张，PPT共二十

8、八页，创作于2022年6月因此F1可以表示为关键是，寻找合适的单位向量 ，使F1的方差最大。问题的答案是：X的协方差矩阵S 的最大特征根 所对应的单位特征向量即为 。并且 就是F1的方差。第十张，PPT共二十八页，创作于2022年6月同样，同样，F2可以表示为可以表示为寻找合适的单位向量寻找合适的单位向量 ，使，使F2与与F1独立，且使独立，且使F2的方差（除的方差（除F1之外）最大。之外）最大。问题的答案问题的答案是：是：X的协方差矩阵的协方差矩阵S的第二大特征根的第二大特征根 所所对应的单位特征向量即为对应的单位特征向量即为 。并且。并且 就是就是F2的的方差。方差。第十一张，PPT共二十

9、八页，创作于2022年6月其中，其中，aij称为因子载荷量称为因子载荷量因子载荷量：主成分与变量间的相关系数，因子载荷量：主成分与变量间的相关系数，即：因子载荷量的大小和它前面的正负号直接反映了即：因子载荷量的大小和它前面的正负号直接反映了主成分与相应变量之间关系的密切程度和方向。从而可以说明各主主成分与相应变量之间关系的密切程度和方向。从而可以说明各主成分的意义成分的意义第十二张，PPT共二十八页，创作于2022年6月求解主成分的步骤：求解主成分的步骤：1.求样本均值求样本均值 和样本协方差矩阵和样本协方差矩阵S;2.求求S的特征根的特征根求解特征方程求解特征方程 ，其中，其中I是单位矩阵，

10、解得是单位矩阵，解得2个特征根个特征根 3.求特征根所对应的单位特征向量求特征根所对应的单位特征向量4.写出主成分的表达式写出主成分的表达式第十三张，PPT共二十八页，创作于2022年6月身高身高x1(cm)胸胸围围x2(cm)体重体重x3(kg)149.5162.5162.7162.2156.5156.1172.0173.2159.5157.769.577.078.587.574.574.576.581.574.579.038.555.550.865.549.045.551.059.543.553.5例例1下表是下表是10位学生的身高位学生的身高、胸、胸围围、体重、体重的数据。的数据。对此进

11、行主成分分析。对此进行主成分分析。第十四张，PPT共二十八页，创作于2022年6月1.求求样样本均本均值值和和样样本本协协方差矩方差矩阵阵 2.求解求解协协方差矩方差矩阵阵的特征方程的特征方程 3.解得三个特征解得三个特征值值 和对应的单位特征向量：和对应的单位特征向量：第十五张，PPT共二十八页，创作于2022年6月4.由此我们可以写出三个主成分的表达式：5.主成分的含义F1表示学生身材大小。F2反映学生的体形特征 第十六张，PPT共二十八页，创作于2022年6月三个主成分的方差贡献率分别为：前两个主成分的累积方差贡献率为：第十七张，PPT共二十八页，创作于2022年6月在一般情况下，设有n

12、个样品，每个样品观测p个指 标，将原始数据排成如下矩阵：多指标多指标 求解主成分的步骤：求解主成分的步骤：第十八张，PPT共二十八页，创作于2022年6月1.求样本均值和样本协方差矩阵S;2.求解特征方程=0,其中I是单位矩阵,解得p个特征根3.求所对应的单位特征向量 解得 4.写出主成分的表达式 第十九张，PPT共二十八页，创作于2022年6月根据累积贡献率的大小取前面m 个(mp)主成分选取原则：且主成分个数的选取原则第二十张，PPT共二十八页，创作于2022年6月例例 设设 的协方差矩阵为的协方差矩阵为作主成分分析。作主成分分析。解：解：如果从如果从 出发作主成分分析，易求得其特征值和出

13、发作主成分分析，易求得其特征值和相应的正交单位化特征向量为相应的正交单位化特征向量为 的两个主成分分别为的两个主成分分别为 第一主成分的贡献率为第一主成分的贡献率为第二十一张，PPT共二十八页，创作于2022年6月R R 型分析型分析为消除为消除量纲量纲影响，在计算之前先将原始数据影响，在计算之前先将原始数据标准化标准化。标准化变量。标准化变量的的S=R，所以用，所以用标准化变量标准化变量进行主成分分析相当于从原变量的进行主成分分析相当于从原变量的相关矩相关矩阵阵 R 出发进行主成分分析。统计学上称这种分析法为出发进行主成分分析。统计学上称这种分析法为R R型分析型分析，由，由协方差矩阵出发的

14、主成分分析为协方差矩阵出发的主成分分析为S S型分析型分析。S型分析和型分析和R型分析的结果是不同的。在一般情况下，若各型分析的结果是不同的。在一般情况下，若各变量的量纲不同，通常采用变量的量纲不同，通常采用R R型分析型分析。R型分析的概念型分析的概念第二十二张，PPT共二十八页，创作于2022年6月这里我们需要进一步强调的是，从相关阵求得的主成这里我们需要进一步强调的是，从相关阵求得的主成分与协差阵求得的主成分一般情况是不相同的。实际分与协差阵求得的主成分一般情况是不相同的。实际表明，这种差异有时很大。表明，这种差异有时很大。我们认为，如果各指标之间的数量级相差悬殊，特别我们认为，如果各指

15、标之间的数量级相差悬殊，特别是各指标有不同的物理量纲的话，较为合理的做法是是各指标有不同的物理量纲的话，较为合理的做法是使用使用R代替代替。对于研究经济问题所涉及的变量单位大都不统一，采用对于研究经济问题所涉及的变量单位大都不统一，采用R代替代替后，可以看作是用标准化的数据做分析，这样使得主后，可以看作是用标准化的数据做分析，这样使得主成分有现实经济意义，不仅便于剖析实际问题，又可以避免成分有现实经济意义，不仅便于剖析实际问题，又可以避免突出数值大的变量。突出数值大的变量。第二十三张，PPT共二十八页，创作于2022年6月主成分分析的步骤主成分分析的步骤 1.1.将原始数据标准化；将原始数据标

16、准化；2.2.根根据据标标准准化化变变量量求求出出协协方方差差矩矩阵阵（标标准准化化后后协协方方差差矩矩阵阵与与相相关关矩阵完全一样）；矩阵完全一样）；3.3.求求出出相相关关矩矩阵阵的的特特征征值值，计计算算累累计计贡贡献献率率，及及其其对对应应的的特特征征向向量；量；4.4.确定主成分，进一步分析。确定主成分，进一步分析。对于对于X=(X1,X2,Xp),设设则标准化变量为则标准化变量为第二十四张，PPT共二十八页，创作于2022年6月企业的经济效益分析企业的经济效益分析某某市市对对下下属属1010个个企企业业作作经经济济效效益益分分析析，根根据据经经济济统统计计原原理理，用用取取得得的的

17、生生产产成成果果与与各各项项成成本本的的消消耗耗作作对对比比，来来衡衡量量每每个个企企业业的的经经济济效效益，也就是用下述五个指标来对每个企业进行分析。益，也就是用下述五个指标来对每个企业进行分析。Z1：固定资产的产值率：固定资产的产值率Z2：净产值劳动生产率：净产值劳动生产率Z3：万元产值的流动资金占用率：万元产值的流动资金占用率Z4：万元产值利润率：万元产值利润率Z5：万元资金的利润率：万元资金的利润率第二十五张，PPT共二十八页，创作于2022年6月1、数据标准化、数据标准化2、求相关矩阵求相关矩阵R3、计算计算R的特征值及累积贡献率，并计算相应的特征向量的特征值及累积贡献率，并计算相应

18、的特征向量经过计算取经过计算取2个主成分，信息的可靠程度超过个主成分，信息的可靠程度超过85%第二十六张，PPT共二十八页，创作于2022年6月4、分析意义第第j个企业的第一主成分值为个企业的第一主成分值为各企业的第一主成分值如下表各企业的第一主成分值如下表0.77-1.8-1.160.105-0.84-1.2053.830.960.33-0.99311.第第一主成分一主成分F1的意义的意义在在F1的的表表达达式式中中，只只有有第第三三个个指指标标Z3（万万元元产产值值流流动动资资金金占占用用率率）的的系系数数为为负负值值（-0.45），而而Z5的的系系数数最最大大，Z5与与Z3是是刻刻画画企企业业经经营营水水平平高高低低的的。当当Z3取取值值较较小小，Z5取取值值较较大大时时，F1就就较较大大。于于是是F1在在此此突突出出地地反反映映了一个企业经营水平的高低。了一个企业经营水平的高低。由计算结果可见，企业由计算结果可见，企业7的经营水平最高，企业的经营水平最高，企业2的经营水平最低。的经营水平最低。第二十七张，PPT共二十八页，创作于2022年6月感感谢谢大大家家观观看看第二十八张，PPT共二十八页，创作于2022年6月