《协方差及相关系数》PPT课件.ppt
第三节第三节 协方差及相关系数协方差及相关系数协方差协方差相关系数相关系数量量E X-E(X)Y-E(Y)称为随机变量称为随机变量X和和Y的协方差的协方差,记为记为 cov(X,Y),即即:(4)cov(X1+X2,Y)=cov(X1,Y)+cov(X2,Y)(1)cov(X,Y)=cov(Y,X)一、协方差一、协方差(covariance)2.简单性质简单性质:(2)cov(aX,bY)=ab cov(X,Y),a,b 是常数是常数cov(X,Y)=E X-E(X)Y-E(Y)1.定义定义:(3)cov(C,X)=0,C 是常数是常数cov(X,Y)=E(XY)-E(X)E(Y)可见可见,若若 X 与与 Y 独立独立,则则cov(X,Y)=0.3.计算协方差的一个简单公式计算协方差的一个简单公式cov(X,Y)=E X-E(X)Y-E(Y)=E(XY)-E(X)E(Y)-E(Y)E(X)+E(X)E(Y)=E(XY)-E(X)E(Y)即即:特别地特别地:4.随机变量随机变量和的方差与协方差的关系和的方差与协方差的关系D(XY)=D(X)+D(Y)2cov(X,Y)二二、相关系数、相关系数(correlation)为随机变量为随机变量 X 和和 Y 的相关系数的相关系数.1.定义定义:设设 D(X)0,D(Y)0,称称:在不致引起混淆时在不致引起混淆时,记记 XY 为为.协方差的大小在一定程度上反映了协方差的大小在一定程度上反映了X 和和Y 相互间的关系相互间的关系,但它还受但它还受 X 与与Y 本身度量单位的影响本身度量单位的影响.例如：例如：cov(kX,kY)=k2cov(X,Y)为了克服这一缺点为了克服这一缺点,对协方差进行标准化对协方差进行标准化,这就引入了这就引入了相关系数相关系数.易知易知:E(X*)=0,D(X*)=1;E(Y*)=0,D(Y*)=1;（标准协方差）（标准协方差）2.相关系数的性质：相关系数的性质：2)X 和和 Y 独立时独立时,=0（此时称（此时称X 和和 Y 不相关不相关）,但其逆不真但其逆不真.证：由于当证：由于当X 和和Y 独立时独立时,cov(X,Y)=0.但由但由 =0 并不一定能推出并不一定能推出 X 和和 Y 独立独立.若若 X 与与 Y 独立独立,则则 X 与与 Y 不相关不相关.但但 X 与与 Y 不相关不相关,不一定能推出不一定能推出 X 与与 Y 独立独立.事实上事实上,X的密度函数的密度函数:反例反例:设设 X服从服从(-1/2,1/2)内的均匀分布内的均匀分布,而而 Y=cosX,不难求得不难求得:cov(X,Y)=0，因而因而=0,即即 X和和 Y不相关不相关.但但Y 与与X 有严格的函数关系，有严格的函数关系，即即 X 和和 Y 不独立不独立.存在常数存在常数 a,b(b0),使使 P Y=aX+b=1,即即:X 和和 Y 以概率以概率 1 线性相关线性相关.相关系数刻划了相关系数刻划了X 和和Y 间间“线性相关线性相关”的程度的程度.若若 =0,Y 与与 X 无线性关系无线性关系;可见可见,若若 =1,Y 与与 X 有严格线性关系有严格线性关系;若若 0|1,|的值越接近于的值越接近于1,Y 与与 X的线性相关程度越高的线性相关程度越高;|的值越接近于的值越接近于0,Y 与与 X的线性相关程度越弱的线性相关程度越弱.（称（称X 和和 Y 完全相关）完全相关）（称（称X 和和 Y 不相关）不相关）三、原点矩三、原点矩 中心矩中心矩1.定义定义:设设 X 和和 Y 是随机变量是随机变量,称它为称它为 X 的的 k 阶原点矩阶原点矩，简称，简称 k 阶矩阶矩;称它为称它为 X 的的 k 阶中心矩阶中心矩.可见可见,均值均值 E(X)是是 X 的一阶原点矩的一阶原点矩,方差方差 D(X)是是 X的二阶中心矩。的二阶中心矩。(k-th raw moment)(k-th central moment)可见可见,协方差协方差 cov(X,Y)是是 X 和和 Y 的二阶混合中心矩的二阶混合中心矩.称它为称它为 X 和和 Y 的的 k+l 阶混合阶混合(原点原点)矩矩.称它为称它为 X 和和 Y 的的 k+l 阶混合中心矩阶混合中心矩.2.定义定义:设设 X 和和 Y 是随机变量是随机变量,(k+l)-th mixed raw moment)(k+l)-th mixed central moment)四、四、协方差矩阵协方差矩阵将二维随机变量将二维随机变量(X1,X2)的四个二阶中心矩的四个二阶中心矩:排成矩阵的形式排成矩阵的形式:称此矩阵为称此矩阵为(X1,X2)的协方差矩阵的协方差矩阵(covariance matrix).这是一个对称矩阵这是一个对称矩阵 类似定义类似定义 n 维随机变量维随机变量(X1,X2,Xn)的协方差矩阵的协方差矩阵.为为(X1,X2,Xn)的的协方差矩阵协方差矩阵.都存在都存在,称矩阵称矩阵:(i,j=1,2,n)若若作业习题4-3 2,3,6,7,8
