因子分析方法幻灯片.ppt

因子分析方法第1页，共42页，编辑于2022年，星期五微积分微积分1工程制图初步工程制图初步算法语言算法语言英语英语体育体育1军事理论军事理论中国革命史通论中国革命史通论2体育体育2普通物理普通物理体育体育3当代资本主义当代资本主义普通物理实验普通物理实验1电路原理电路原理1工程数学工程数学数字电子技术基础数字电子技术基础体育体育4普通物理实验普通物理实验2工程基础工程基础体育体育5电机与电力拖动基础电机与电力拖动基础模拟电子基础模拟电子基础计算机原理及应用计算机原理及应用1电子技术课程设计电子技术课程设计体育体育6自动控制理论自动控制理论1金工实习金工实习马克思主义哲学基础马克思主义哲学基础1软件技术基础软件技术基础运筹学运筹学1自动控制原理自动控制原理2马克思主义哲学基础马克思主义哲学基础2工程经济与管理工程经济与管理计算机原理及应用计算机原理及应用2信号与系统分析信号与系统分析中国特色社会主义建设概论中国特色社会主义建设概论过程检测及仪表过程检测及仪表计算机控制系统计算机控制系统生产实习生产实习人工智能导论人工智能导论计算机仿真计算机仿真4.1、因子分析的主要目的、因子分析的主要目的例例:大学课程训练了哪些公共能力大学课程训练了哪些公共能力?第2页，共42页，编辑于2022年，星期五样本数据样本数据:个同学的考试成绩个同学的考试成绩种公共能力种公共能力,考试成绩可分解成考试成绩可分解成公共因子公共因子特殊因子特殊因子因子载荷因子载荷有可能从因子载荷分析公共能力的含义有可能从因子载荷分析公共能力的含义若有若有第3页，共42页，编辑于2022年，星期五记记基本目的基本目的:载荷矩阵载荷矩阵特殊因子特殊因子公共因子公共因子载荷向量载荷向量前面的分解可以写成前面的分解可以写成根据根据矩阵分析矩阵分析的含义的含义第4页，共42页，编辑于2022年，星期五例例:某年某市高考成绩的一个因子模型某年某市高考成绩的一个因子模型第5页，共42页，编辑于2022年，星期五必须满足一些合理性条件必须满足一些合理性条件为了使分析结果有意义为了使分析结果有意义,分解分解4.2、因子模型、因子模型满足这些条件的分解称为满足这些条件的分解称为-因子模型因子模型第6页，共42页，编辑于2022年，星期五样本数据规格化样本数据规格化消除变量单位的影响消除变量单位的影响第7页，共42页，编辑于2022年，星期五公共因子规格化公共因子规格化使因子载荷相对大小有意义使因子载荷相对大小有意义由此可知由此可知第8页，共42页，编辑于2022年，星期五因子之间因子之间(包括特殊因子包括特殊因子)样本向量彼此正交样本向量彼此正交其中其中等价于规格变量的样本协方差为等价于规格变量的样本协方差为0保证因子之间线性无关保证因子之间线性无关第9页，共42页，编辑于2022年，星期五并证明存在满足前面所列条件的并证明存在满足前面所列条件的-因子模型就是要确定一个因子模型就是要确定一个建立建立使得使得第10页，共42页，编辑于2022年，星期五矩阵表示矩阵表示满足满足-因子模型因子模型第11页，共42页，编辑于2022年，星期五因为因为其中其中-因子模型的载荷矩阵因子模型的载荷矩阵如果如果所以所以是某个是某个第12页，共42页，编辑于2022年，星期五满足满足为对角矩阵为对角矩阵,只要选择只要选择反之反之,如果存在如果存在,使使并取并取-因子模型的所有条件均满足因子模型的所有条件均满足-因子模型的载荷矩阵因子模型的载荷矩阵是某个是某个第13页，共42页，编辑于2022年，星期五只需验证只需验证由已知条件可得由已知条件可得第14页，共42页，编辑于2022年，星期五个变量个变量个方程个方程个方程个方程个方程个方程个方程个方程一共一共一般远大于一般远大于应该有解应该有解第15页，共42页，编辑于2022年，星期五-因子模型本质上就是把因子模型本质上就是把建立建立其中其中是对角矩阵是对角矩阵样本相关矩阵分解成样本相关矩阵分解成第16页，共42页，编辑于2022年，星期五理论上可以转化为求解优化问题理论上可以转化为求解优化问题其中其中只有最优目标值为只有最优目标值为0时时,才存才存在完全满足要求的因子模型在完全满足要求的因子模型第17页，共42页，编辑于2022年，星期五4.3、有关概念、有关概念因为因为所以所以共性变差共性变差个性变差个性变差公共因子的变差总贡献公共因子的变差总贡献第18页，共42页，编辑于2022年，星期五因为因为所以所以因子载荷反映变量对公共因子的相关性因子载荷反映变量对公共因子的相关性第19页，共42页，编辑于2022年，星期五因子得分因子得分建立因子模型并不需要确定因子值建立因子模型并不需要确定因子值如果需要如果需要,可以对其估计可以对其估计因为因为求解求解可得因子得分可得因子得分?第20页，共42页，编辑于2022年，星期五例例88个学生个学生开卷考代数、分析、统计开卷考代数、分析、统计闭卷考力学，几何闭卷考力学，几何考试成绩的因子模型考试成绩的因子模型第21页，共42页，编辑于2022年，星期五三个学生的成绩三个学生的成绩因子得分因子得分第22页，共42页，编辑于2022年，星期五4.4、基于主成分的因子分析基于主成分的因子分析主成分分析中使用的符号主成分分析中使用的符号第第个主成分为个主成分为第23页，共42页，编辑于2022年，星期五所以所以因为因为第24页，共42页，编辑于2022年，星期五令令所有因子样本均值为所有因子样本均值为0？能够满足能够满足公共因子样本方差为公共因子样本方差为1？不能满足不能满足可得可得能否满足因子模型的所有条件能否满足因子模型的所有条件?第25页，共42页，编辑于2022年，星期五令令于是于是第26页，共42页，编辑于2022年，星期五能够满足能够满足公共因子之间样本向量彼此正交？公共因子之间样本向量彼此正交？因为因为所以所以第27页，共42页，编辑于2022年，星期五公共因子与特殊因子样本向量彼此正交？公共因子与特殊因子样本向量彼此正交？能够满足能够满足因为因为所以所以第28页，共42页，编辑于2022年，星期五特殊因子之间样本向量彼此正交？特殊因子之间样本向量彼此正交？一般情况不能满足一般情况不能满足因为因为所以所以第29页，共42页，编辑于2022年，星期五由于由于所以所以的影响的影响,利用前利用前如果前如果前-因子模型因子模型个主成分的逼近误差很小个主成分的逼近误差很小都会很小都会很小,此时可忽略此时可忽略所有的所有的它们对它们对个主成分个主成分建立近似的建立近似的第30页，共42页，编辑于2022年，星期五是因子模型的载荷矩阵是因子模型的载荷矩阵如果如果就有对角矩阵就有对角矩阵把样本相关矩阵分解成把样本相关矩阵分解成4.5、因子正交旋转因子正交旋转此时对任何正交矩阵此时对任何正交矩阵说明说明也是载荷矩阵也是载荷矩阵如何利用如何利用?第31页，共42页，编辑于2022年，星期五某年某市高考成绩的两个载荷矩阵某年某市高考成绩的两个载荷矩阵第32页，共42页，编辑于2022年，星期五选择恰当的正交矩阵对载荷矩阵进行选择恰当的正交矩阵对载荷矩阵进行分量的绝对值差异越大越便于解释分量的绝对值差异越大越便于解释列变换可能便于解释公共因子的含义列变换可能便于解释公共因子的含义的方差的方差!基本准则基本准则:极大化极大化第33页，共42页，编辑于2022年，星期五用用问题问题:共性变差共性变差此时此时存在差异存在差异代替代替消除差异消除差异其中其中的方差的方差第34页，共42页，编辑于2022年，星期五正交旋转优化问题正交旋转优化问题其中其中第35页，共42页，编辑于2022年，星期五轮换迭代算法轮换迭代算法首先取首先取满足正交矩阵的约束满足正交矩阵的约束第36页，共42页，编辑于2022年，星期五相当于相当于其余其余为常数向量为常数向量原优化问题可以转化为一维无约束问题原优化问题可以转化为一维无约束问题第37页，共42页，编辑于2022年，星期五由由可得可得其中其中第38页，共42页，编辑于2022年，星期五再根据最大目标函数处应该有再根据最大目标函数处应该有可得到确定最优解的规则可得到确定最优解的规则第39页，共42页，编辑于2022年，星期五然后取然后取得到最优的得到最优的替换替换后后,先用先用再求解再求解如此继续如此继续第40页，共42页，编辑于2022年，星期五一次循环后目标函数增量不大就停止一次循环后目标函数增量不大就停止停止准则停止准则计算完全部计算完全部（共有（共有种组合）种组合）为一次循环为一次循环第41页，共42页，编辑于2022年，星期五例例第42页，共42页，编辑于2022年，星期五