大数据解析与应用导论 (8).pdf

《大数据解析与应用导论 (8).pdf》由会员分享，可在线阅读，更多相关《大数据解析与应用导论 (8).pdf（12页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、1大数据解析与应用导论Introduction to Big Data Analytics and Application第七章 典型相关分析基本概念基本概念1.CCA算法介绍算法介绍2.CCA算法拓展算法拓展3.案例分析案例分析4.（1）典型相关分析的简单例子）典型相关分析的简单例子7.2 CCA算法介绍算法介绍 了解家庭特征与家庭消费之间的关系：了解家庭特征与家庭消费之间的关系：变量相关系数矩阵：x1x2y1y2y3x11.000.800.260.670.34x20.801.000.330.590.34y10.260.331.000.370.21y20.670.590.371.000.35

2、y30.340.340.210.251.00（1）典型相关分析的简单例子）典型相关分析的简单例子7.2 CCA算法介绍算法介绍 两组变量相关系数矩阵：x1x2y1y2y3x11.000.800.260.670.34x20.801.000.330.590.34y10.260.331.000.370.21y20.670.590.371.000.35y30.340.340.210.251.00 针对两组变量(p个变量和q个变量)的相关性分析：方法1：讨论第一组每个变量和第二组每个变量的相互关系，得到pq个相关系数，再用这些相关系数反应两组变量的关系。只是孤立考虑单个X与单个Y间的相关，没有考虑X、Y

3、变量组内部各变量间的相关。两组间有许多简单相关系数（例每组30个变量），使问题显得复杂，难以从整体描述。难以抓到重点（1）典型相关分析的简单例子）典型相关分析的简单例子7.2 CCA算法介绍算法介绍 两组变量相关系数矩阵：x1x2y1y2y3x11.000.800.260.670.34x20.801.000.330.590.34y10.260.331.000.370.21y20.670.590.371.000.35y30.340.340.210.251.00 针对两组变量(p个变量和q个变量)的相关性分析：方法2 在每组变量中选择若干个有代表性的综合指标，这些指标是原始变量的线性组合，代表了原

4、始变量的大部分信息，且两组综合指标的相关程度最大。新产生的综合指标成为典型相关变量Canonical VariableCanonical Variable，通过少数的几个综合变量来反应两组变量的相关性质。此即典型相关分析的核心思想（2）典型相关分析的求解目标）典型相关分析的求解目标7.2 CCA算法介绍算法介绍=1()1(1)+2()2(1)+()(1)()(1)=1()1(2)+2()2(2)+()(2)()(2)设为两个相互关联的随机向量，分别在两组变量中选取若干有代表性的综合变量Ui、Vi，每一个综合变量是原变量的线性组合，目标是最大化两者的相关系数(1)(1)(1)(1)12(,)pX

5、XX=X、(2)(2)(2)(2)12(,)qXXX=X（2）典型相关分析的求解目标）典型相关分析的求解目标(1)(1)(1)11(2)(2)(2)22(1)(2)12121122()()Cov(,)()()(,)Cov(,)Cov(,)Cov(,)Corr(,)()()D UDD VDCovU VU VU VD UD V=a XaXXaaab XbXXbbbaXXbababaabb 协方差与相关系数 约束条件：()1Var u=11a a()1Var v=22b b求a1和b1，使uv达到最大。1112a b 求解目标：7.2 CCA算法介绍算法介绍（3）典型相关分析的求解方法）典型相关分析

6、的求解方法 引入Lagrange乘数1111211111221(,)(1)(1)(1)22=1a ba ba ab b原问题可以转化为求的(1)式的极大值，其中和是 Lagrange乘数(3)121111211221 b-a=0 a-b=0将上面的(3)式分别左乘和1a1b 1121111112111221a b-a a=0b a-b b=012111 1121 122110(2)0avb=b a a a7.2 CCA算法介绍算法介绍11(,)u v=1121a b（3）典型相关分析的求解方法）典型相关分析的求解方法7.2 CCA算法介绍算法介绍由（3）式的第二式，得0=-1212222111

7、11 a-a0=-1-121112222111 a-a代入（3）式的第一式，得1111122221 21a的特征根是，相应的特征向量为112221 1=b a1122211112 21b的特征根是，相应的特征向量为同样地：（3）典型相关分析的求解方法）典型相关分析的求解方法 结果分析2既是既是MM1 1又是又是MM2 2的特征根的特征根，和和是相应于是相应于MM1 1和和MM2 2的特征向量的特征向量。1a1b至此，典型相关分析转化为求M1和M2特征根和特征向量的问题。第一对典型变量提取了原始变量X与Y之间相关的主要部分，如果这部分还不能足以解释原始变量，可以在剩余的相关中再求出第二对典型变量

8、和他们的典型相关系数。7.2 CCA算法介绍算法介绍-1-1111122221-1-1222211112M=M=令2122M a=aM b=b（4）典型相关分析的思想小结）典型相关分析的思想小结7.2 CCA算法介绍算法介绍第一步：估计组合系数使得对应的典型变量和相关系数达到最大。最大的相关系数为第一典型相关系数，且称有最大相关系数的这对典型变量为典型相关变量。第二步：再次估计组合相关系数，找出第二大的典型相关系数，称为第二典型相关系数，称有第二大相关系数的这对典型变量为第二典型相关变量。设两组的变量个数为p,q，pq,那么寻求典型变量的过程可一直重复，直到得到P对典型变量。min(p,q)min(p,q)（5）典型相关分析）典型相关分析CCA与主成分分析与主成分分析PCA7.2 CCA算法介绍算法介绍典型相关分析在某些方面与主成分分析类似，但并不完全相同。二者均是通过构造原变量的适当线性组合提取不同信息，主成分分析着眼于考虑变量的“分散性”信息，考虑的是一组变量内部各个变量直接的相关关系。而典型相关分析则立足于识别和量化二组变量的统计相关性，是两个随机变量之间的相关性在两组变量之下的推广。