因子分析 - 青城驿站.ppt

《因子分析 - 青城驿站.ppt》由会员分享，可在线阅读，更多相关《因子分析 - 青城驿站.ppt（26页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、因子分析因子分析公共卫生学院公共卫生学院一、前言一、前言变量的相关性变量的相关性 公共因子？公共因子？将多个实测变量转换成少数几将多个实测变量转换成少数几个不相关的综合指数个不相关的综合指数二、因子分析模型二、因子分析模型 一般地，设一般地，设X=(x1,x2,xp)为可为可观测的随机变量，且有观测的随机变量，且有f=(f1,f2,fm)为公共（共性）因为公共（共性）因子子(common factor)，简称因子简称因子(factor)e=(e1,e2,ep)为特殊因子为特殊因子（specific factor）f f和和e e均为不可直接观测的随机变量均为不可直接观测的随机变量=(1,2,p

2、)为随机变量为随机变量x x的的总体均值总体均值A=(aij)p*m为因子负荷（载荷为因子负荷（载荷）（factor loading）矩阵矩阵通常先对通常先对x作标准化处理，使标准化得到的新作标准化处理，使标准化得到的新变量均值为零，方差为这样就有变量均值为零，方差为这样就有假定（）假定（）fi的均数为，方差为；的均数为，方差为；（）（）e ei i的均数为，方差为的均数为，方差为i i；（）（）fi与与e ei i相互独立相互独立则称则称x x为具有为具有m m个公共因子的因子模型个公共因子的因子模型 如果再满足（）如果再满足（）f fi i与与f fj j相互独立相互独立（ij），），则称

3、该因子模型为正交因子模则称该因子模型为正交因子模型。型。正交因子模型具有如下特性：正交因子模型具有如下特性：x x的方差可表示为的方差可表示为设设（）（）hi2是是m个公共因子对第个公共因子对第i i个变量个变量的贡献，称为第的贡献，称为第i i个共同度个共同度（communality）或共性方差，公因子或共性方差，公因子方差方差（common variance）（）（）i i称为特殊方差称为特殊方差（specific variance），），是不能由公共因子解释是不能由公共因子解释的部分的部分因子载荷（负荷）因子载荷（负荷）a aijij是随机变量是随机变量x xi i与与公共因子公共因子f

4、 fj j的相关系数。的相关系数。设设 称称g gj j2 2为公共因子为公共因子f fj j对对x x的的“贡献贡献”，是，是衡量公共因子衡量公共因子f fj j重要性的一个指标。重要性的一个指标。三、因子分析的步骤三、因子分析的步骤输入原始数据输入原始数据xn*p，计算样本均值和方计算样本均值和方差，进行标准化计算（处理）；差，进行标准化计算（处理）；求样本相关系数矩阵求样本相关系数矩阵R=(rij)p*p；求相关系数矩阵的特征根求相关系数矩阵的特征根i (1,2,p0)和相应的标准正交和相应的标准正交的特征向量的特征向量li；确定公共因子数；确定公共因子数；计算公共因子的共性方差计算公共

5、因子的共性方差hi2;对载荷矩阵进行旋转，以求能更好地对载荷矩阵进行旋转，以求能更好地解释公共因子；解释公共因子；对公共因子作出专业性的解释。对公共因子作出专业性的解释。四、因子分析提取因子的方法四、因子分析提取因子的方法主成分法主成分法（principal component factor）每一个公共因子的载荷系数之平方和每一个公共因子的载荷系数之平方和等于对应的特征根，即该公共因子的等于对应的特征根，即该公共因子的方差。方差。极大似然法极大似然法（maximum likelihood factor）假定原变量服从正态分布，公共因假定原变量服从正态分布，公共因子和特殊因子也服从正态分布，构子

6、和特殊因子也服从正态分布，构造因子负荷和特殊方差的似然函数，造因子负荷和特殊方差的似然函数，求其极大，得到唯一解。求其极大，得到唯一解。主因子法主因子法（principal factor）设原变量的相关矩阵为设原变量的相关矩阵为R=(rij)，其其逆矩阵为逆矩阵为R-1=(rij)。各变量特征方差各变量特征方差的初始值取为逆相关矩阵对角线元的初始值取为逆相关矩阵对角线元素的倒数，素的倒数，i=1/rii。则共同度的则共同度的初始值为初始值为(hi)2=1-i=1-1/rii。以以(hi)2代替相关矩阵中的对角线上的元代替相关矩阵中的对角线上的元素，得到约化相关矩阵。素，得到约化相关矩阵。(h1

7、)2 r12 r1p r21 (h2)2 r2p R=.rp1 rp2 (hp)2 R的前的前m个特征根及其对应的单位化特征个特征根及其对应的单位化特征向量就是主因子解。向量就是主因子解。迭代主因子法迭代主因子法（iterated principal factor）主因子的解很不稳定。因此，常以估主因子的解很不稳定。因此，常以估计的共同度为初始值，构造新的约化计的共同度为初始值，构造新的约化矩阵，再计算其特征根及其特征向量，矩阵，再计算其特征根及其特征向量，并由此再估计因子负荷及其各变量的并由此再估计因子负荷及其各变量的共同度和特殊方差，再由此新估计的共同度和特殊方差，再由此新估计的共同度为初

8、始值继续迭代，直到解稳共同度为初始值继续迭代，直到解稳定为止。定为止。Heywood现象现象残差矩阵残差矩阵五、因子旋转五、因子旋转目的：使因子负荷两极分化，要么目的：使因子负荷两极分化，要么接近于接近于0，要么接近于，要么接近于1。常用的旋转方法：常用的旋转方法：（1 1）方差最大正交旋转）方差最大正交旋转 （varimax orthogonal rotation）基本思想：使公共因子的相对负荷基本思想：使公共因子的相对负荷（lij/hi2）的方差之和最大，且保持原公的方差之和最大，且保持原公共因子的正交性和公共方差总和不变。共因子的正交性和公共方差总和不变。可使每个因子上的具有最大载荷的变

9、量可使每个因子上的具有最大载荷的变量数最小，因此可以简化对因子的解释。数最小，因此可以简化对因子的解释。（2 2）斜交旋转）斜交旋转（oblique rotation）因子斜交旋转后，各因子负荷发生了较因子斜交旋转后，各因子负荷发生了较大变化，出现了两极分化。各因子间不大变化，出现了两极分化。各因子间不再相互独立，而彼此相关。各因子对各再相互独立，而彼此相关。各因子对各变量的贡献的总和也发生了改变。变量的贡献的总和也发生了改变。适用于大数据集的因子分析。适用于大数据集的因子分析。六、因子得分六、因子得分Thomson法，即回归法法，即回归法 回归法得分是由回归法得分是由Bayes思想导出的，得

10、思想导出的，得到的因子得分是有偏的，但计算结果到的因子得分是有偏的，但计算结果误差较小。误差较小。Bartlett法法 Bartlett因子得分是极大似然估计，也因子得分是极大似然估计，也是加权最小二乘回归，得到的因子得是加权最小二乘回归，得到的因子得分是无偏的，但计算结果误差较大。分是无偏的，但计算结果误差较大。因子得分可用于模型诊断，也可用作因子得分可用于模型诊断，也可用作进一步分析的原始资料。进一步分析的原始资料。七、因子分析应用实例七、因子分析应用实例八、因子分析应用的注意事项八、因子分析应用的注意事项应用条件应用条件（1）变量是计量的，能用线性相关）变量是计量的，能用线性相关系数（系数（Pearson积叉相关系数）表示积叉相关系数）表示它们之间的相关性。它们之间的相关性。（2）总体的同质性）总体的同质性样本量样本量 没有估计公式。至少要保证样本相没有估计公式。至少要保证样本相关系数稳定可靠。关系数稳定可靠。因子数目因子数目 一般认为，累积贡献要达到一般认为，累积贡献要达到80%以以上。但要注意上。但要注意Heywood现象。现象。谢谢！谢谢！