西北工业大学《概率论与数理统计》3-3 协方差.pdf

《西北工业大学《概率论与数理统计》3-3 协方差.pdf》由会员分享，可在线阅读，更多相关《西北工业大学《概率论与数理统计》3-3 协方差.pdf（51页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、下下下下回回回回停停停停一、协方差的概念与性质二、相关系数的意义与性质一、协方差的概念与性质二、相关系数的意义与性质三、协方差矩阵三、协方差矩阵第三节 协方差及相关系数第三节 协方差及相关系数第三节 协方差及相关系数第三节 协方差及相关系数协方差协方差()()()()YEYXEXEYDXD +=2一、协方差的概念与性质一、协方差的概念与性质一、协方差的概念与性质一、协方差的概念与性质()()()YDXDYXD+=()?=YXD1.问题的提出问题的提出1.问题的提出问题的提出()()()2YXEYXEYXD=若随机变量若随机变量X和和Y相互独立相互独立,那么若随机变量那么若随机变量X和和Y不相互

2、独立不相互独立,()()()()2YEYXEXE=2.协方差与相关系数的定义协方差与相关系数的定义2.协方差与相关系数的定义协方差与相关系数的定义定义定义3.7(X,Y)是二维随机变量是二维随机变量,量量()()YEYXEXE 称为随机变量称为随机变量X与与Y的协方差的协方差,记为记为cov(X,Y),即即()()().,covYEYXEXEYX =()()()()()YDXDYXXY=,cov而称为随机变量而称为随机变量X与与Y的相关系数的相关系数注注1 注注1()()()()()()YDYEYXDXEX 与与X和和Y的相关系数是标准化的随机变量又称为标准协方差的相关系数是标准化的随机变量又

3、称为标准协方差,是个无量纲的量是个无量纲的量.2 若随机变量若随机变量X与与Y相互独立相互独立()()()YEYXEXEYX =,cov=EX E(X)EY E(Y)3 cov(X,X)=D(X).=0.的协方差的协方差.3、协方差的计算公式、协方差的计算公式3、协方差的计算公式证、协方差的计算公式证(1)cov(X,Y)=E(XY)E(X)E(Y);(2)D(X Y)=D(X)+D(Y)2cov(X,Y).(1)cov(X,Y)=E X E(X)Y E(Y)=EXY XE(Y)YE(X)+E(X)E(Y)=E(XY)2E(X)E(Y)+E(X)E(Y)=E(XY)E(X)E(Y).22)()

4、(YEYEXEXE+=+=()()()2EYYEXXE=()()()2YXEYXE=()()YEYXEXE 2()()().,cov2YXYDXD+=(2)D(X Y)4、协方差的性质、协方差的性质4、协方差的性质、协方差的性质性质性质3.11 性质性质3.12 性质性质3.13性质性质3.14性质性质3.15 cov(X,Y)=cov(Y,X).cov(X,Y)=E(XY)E(X)E(Y).cov(aX,bY)=abcov(X,Y),a,b为常数为常数cov(X1+X2,Y)=cov(X1,Y)+cov(X2,Y).若若X与与Y独立独立,则则cov(X,Y)=0.性质性质3.16 D(X Y

5、)=D(X)+D(Y)2cov(X,Y).()()()().,cov211jijiniiniiXXXDXD=+=+=推广推广解解设随机变量设随机变量X与与Y的相关系数为的相关系数为0.5,()()()(),2,022=YEXEYEXE()().2YXE+求+求()()2YXE+()()()()222YEXYEXE+=()()()YDXDXY24+=.625.024=+=()()()YEXEYX+=,cov24例例1例例1例例2例例2()()()的与求设的与求设YXNYX,22,2,21,1()()exp121,221yxp=()()()()()()()+21222121212122121yyx

6、x解解相关系数相关系数.()()()().,e21222222=yypxY由由()()()()+=+=xxpxX,e21212121.)(,)(,)(,)(222121YDXDYEXE=yxyxpyxYXdd),()(),ov(c21 +=,1111222=xyt令令,11xu=221121=+)(21yx()()xyxydde211222121()()21212ex +ttuutudede212222122.),ov(c21YX=故有故有=),ov(cYXututuut+dde)1(21222122122 =+=+tuutudede22222122.22221=.)()(),ov(cYDXD

7、YXXY=于是=于是X与与Y的相关系数的相关系数;.0相互独立与 相互独立与YX=(证明见证明见p41例例2.12)注注1 注注1 二维正态分布密度函数中二维正态分布密度函数中,参数代表了参数代表了2 对于二维随机变量对于二维随机变量(X,Y),二、相关系数的意义与性质二、相关系数的意义与性质二、相关系数的意义与性质二、相关系数的意义与性质1.问题的提出问题的提出1.问题的提出问题的提出2)(ebXaYE+=+=设设.e的好坏程度近似表达可用来衡量则的好坏程度近似表达可用来衡量则YbXa+.,e的近似程度越好与表示的值越小当的近似程度越好与表示的值越小当YbXa+.e,达到最小使的值确定达到最

8、小使的值确定ba问问a,b应如何选择应如何选择,可使得随机变量可使得随机变量a+bX最接近随机变量最接近随机变量Y?接近的程度又如何来衡量接近的程度又如何来衡量?分析分析)(2)(2)()(2222XabEXYbEaXEbYE+=得并令它们等于零求偏导数分别关于将+=得并令它们等于零求偏导数分别关于将,eba=+=+=+=+=.0)(2)(2)(2e,0)(2)(22e2XaEXYEXbEbYEXbEaa2)(ebXaYE+=+=).(2YaE 得中代入将得中代入将,)(e,200bXaYEba+=解之得+=解之得).()1(2YDXY=)(),(ovc)(2XDYXYD=)()()(),(c

9、ov1 2YDYDXDYX=200,)(eminXbaYEba+=+=()()(),cov0XDYXb=()()()()()()().,cov0XDYXXEYEa=2.相关系数的意义相关系数的意义2.相关系数的意义相关系数的意义的线性关系表明较小较大时当的线性关系表明较小较大时当YXXY,e.,线性相关的程度较差较小时当线性相关的程度较差较小时当YXXY定义定义3.8联系较紧密设随机变量联系较紧密设随机变量X与与Y的相关系数的相关系数.不相关和则称不相关和则称YX,0=XY例例3例例3()()()(),0dcos2120=+=+=xaxYE ,cos,2,0X=上的均匀分布服从设上的均匀分布服

10、从设()()?,cos的相关系数和求是定数这里的相关系数和求是定数这里YXaaY+=解解()(),0dcos2120=xxXEQ()()()(),21dcos212022=+=+=xaxYE()(),21dcos212022=xxXE.cosa=()()()(),cos21dcoscos2120=+=+=axaxxXYE()()()()()()()(),cos21,covaYEXEXYEYX=,21)()()(22=XEXEXD,21)()()(22=YEYEYD)()(),cov(YDXDYXXY=,0,232=aa时或当时或当(),cos,cosaYX+=,cosaXY=,1,0YXa=时

11、当时当,1,YXa=时当时当X与与Y不相关不相关;,122=+=+YX但但因此因此,X与与Y不独立不独立.存在线性关系存在线性关系.由可知由可知:3.独立与不相关的关系独立与不相关的关系3.独立与不相关的关系独立与不相关的关系(1)不相关与相互独立的关系不相关与相互独立的关系(性质性质3.19)相互独立不相关相互独立不相关(2)不相关的充要条件不相关的充要条件;0,1o=XYYX不相关不相关;0),cov(,2o=YXYX不相关不相关);()()(,3oYEXEXYEYX=不相关=不相关).()()(,4oYDXDYXDYX+=+不相关+=+不相关例例4例例4A不相关的充分条件不相关的充分条件

12、,但不是必要条件但不是必要条件B独立的充分条件独立的充分条件,但不是必要条件但不是必要条件C 不相关的充分必要条件不相关的充分必要条件D独立的充分必要条件显然应该选择独立的充分必要条件显然应该选择C.随机变量随机变量X与与Y的方差存在且不等于的方差存在且不等于0,则则D(X+Y)=D(X)+D(Y)是是X和和Y.(考研试题考研试题)解解例例5例例5()()()()()VEVUEUEVU =,cov()()()()()()YEXEYXYEXEYXE +=A不独立不独立B 独立独立C 不相关不相关D相关相关所以所以X与与Y不相关不相关.解解设随机变量设随机变量X与与Y独立同分布独立同分布,记记U=

13、X Y,V=X+Y,则随机变量则随机变量U与与V必然必然().()(),022=YEYEXEXEX与与Y同分布同分布()()()()()()YEYXEXYEYXEXE+=4、相关系数的性质、相关系数的性质4、相关系数的性质、相关系数的性质.1 XY()()()()(YDYEYXDXEXZ =性质性质3.17证证则即设随机变量则即设随机变量()()()()()()()()+=YDYEYDXDXEXDZD()()()()()()()YDYEYXDXEX,cov2+0211XY.1 XY性质性质3.18性质性质3.18.1=+=baXYP使使baXY,1存在常数的充要条件是 存在常数的充要条件是=由

14、于若由于若,1=XY证证()因而因而()()()()()()()(),12XYYDYEYXDXEXD=,1时时=XY()()()()()(),0=YDYEYXDXEXD()()()()()().1=YDYEYXDXEXP有有因而其中因而其中,1时=时=XY()()()()()().0=+YDYEYXDXEXD()()()()()()().1=YDYEYXDXEXP有故当有故当,1=XY()()(),XDYDa=()()()()()()().XEXDYDYEbm=()()()()()(),1=YDYEYXDXEXP,1baXY+=成立即以概率 成立即以概率1=+=+=XbaYP.010)(2=+

15、=+XbaYE)(min2,bXaYEba+200)(XbaYE+=+=)()1(2YDXY=.1=XY,10)(2=+=+XbaYP,10)(=+=+XbaYP()(数学期望定义数学期望定义)0 使若存在常数使若存在常数 ba,2)(0XbaYE +=+=性质性质3.19 若若X与与Y相互独立相互独立,则则X与与Y不相关不相关,反之不真反之不真.三、协方差矩阵三、协方差矩阵三、协方差矩阵三、协方差矩阵)()(),cov(jjiijiijXEXXEXEXX =1.n 维随机变量协方差矩阵维随机变量协方差矩阵1.n 维随机变量协方差矩阵维随机变量协方差矩阵()nXXXL,2,1设设 n 维随机变

16、量的二阶混合中心矩维随机变量的二阶混合中心矩,都存在都存在,则称矩阵则称矩阵 =nnnnnnLLLLLLL212222111211),(21nXXXL为为n 维随机变量的协方差阵维随机变量的协方差阵.njiL,2,1,=2.二维随机变量的协方差矩阵二维随机变量的协方差矩阵2.二维随机变量的协方差矩阵二维随机变量的协方差矩阵()其协方差矩阵为为二维随机变量设其协方差矩阵为为二维随机变量设,21XX()(),)(121111XDXEXE=),()(221112XEXXEXE =,22211211 =,)()(12112221XEXXEXE=()().)(222222XDXEXE=其中=其中.,的研

17、究差矩阵达到对随机变量从而可通过协方变量的概率密度随机协方差矩阵可用来表示的研究差矩阵达到对随机变量从而可通过协方变量的概率密度随机协方差矩阵可用来表示注注10由于由于cij=cji()所以所以,2,1,njiL=协方差矩阵为对称的非负定矩阵协方差矩阵为对称的非负定矩阵.注注20协方差矩阵的应用协方差矩阵的应用.),(21为例以二维正态随机变量为例以二维正态随机变量XX+=+=2222221221121211222121)()(2)()1(21exp121),(xxxxxxp由于引入矩阵由于引入矩阵,21 =xxX,21 =的协方差矩阵及的协方差矩阵及),(21XX,22211211 =由此可

18、得由此可得.)1(12121212222221=22211211,22212121=212121221det1.)()(2)(1122222212211212112+=+=xxxx由于由于的概率密度可写成于是的概率密度可写成于是),(21XX()()()=XX1T()()2211212121222211,det1xxxx()21,xxp()()()()()().21expdet211T21=XX内容小结内容小结内容小结内容小结()()()YEYXEXEYX =,cov1.协方差与相关系数的定义协方差与相关系数的定义 )()(称为随机变量量称为随机变量量YEYXEXE cov(,),X Y记为记

19、为的与为随机变量称的与为随机变量称YXYDXDYXXY)()(),cov(=相关系数=相关系数.X与与Y的协方差的协方差,2.相关系数的意义相关系数的意义.,0线性相关的程度较差时接近当线性相关的程度较差时接近当YXXY.,0不相关和则称不相关和则称YXXY=的线性关系表明时接近当的线性关系表明时接近当YXXY,1联系较紧密联系较紧密.例例1-1 设设X与与Y是两个随机变量是两个随机变量,且且D(X)=)=1,D(Y)=)=3,cov(X,Y)=)=0.3,求方差求方差D(X+Y)与)与D(2X 3Y).备用题备用题备用题备用题()()()(),4.3,cov2=+=+YXYDXDYXD()(

20、)()()YXYDXDYXD3,2cov23232+=()()()YXYDXD,cov1294+=解解.6.34=例例1-2 例例1-2 设随机变量设随机变量X和和Y均服从参数均服从参数=1/2U=2X,V=X Y,求求U与与V的协方差的协方差 cov(U,V).,21=XY且相关系数且相关系数()()YXXVU=,2cov,cov()()(),2,cov=YDXDYXXY的指数分布的指数分布,令函数令函数解解由随机变量由随机变量X和和Y均服从参数均服从参数=1/2的指数分布的指数分布,则而则而()().4,cov22=YXXDD(X)=)=4,D(Y)=)=4.设二维连续型随机变量(设二维连

21、续型随机变量(X,Y)的联合密度函数为)的联合密度函数为()()()()+=其他+=其他,020,10,31,yxyxyxp试计算试计算D(2X 3Y+8).解解由由性质性质3.16得得D(2X 3Y+8)=)=D(2X)+)+D(3Y)2cov(2X,3Y)=)=4D(X)+)+9D(Y)12cov(X,Y)例例2-1例例2-1为了计算上述方差和协方差为了计算上述方差和协方差,需要先计算需要先计算E(X),E(X2),E(Y),E(Y2)和)和E(XY).为此为此,先计算先计算X和和Y的边缘分布的边缘分布.()()()()()()()()10132d3120+=+=+=+=xxyyxxpX(

22、)()()()()()202131d3110+=+=+=+=yyxyxypY由此计算得由此计算得()()()()95213132d13210=+=+=+=+=xxxXE()()()()187314132d1321022=+=+=+=+=xxxXE()()162138125187=XD()()911d213120=+=+=yyyYE()()916d21312022=+=+=yyyYE()()81239119162=YD()()()()+=+=1020dd31xyyxxyXYE32d38231102=+=+=xyxxy于是可得协方差于是可得协方差()()8119119532,cov=YX代回原式代

23、回原式,可得可得D(2X 3Y+8)3812458111281239162134=+=+=设二维连续型随机变量(设二维连续型随机变量(X,Y)的联合密度函数为)的联合密度函数为()()=其他其他,01,1,e2,13yxxyxpy()().,covZWXYZXYW的协方差与求函数=的协方差与求函数=()(),4de2d1131=+yxxyxWEy()(),34de2d1113=+yxxyxZEy解解例例2-2例例2-2()()()()()()()().31,cov=ZEWEWZEZW()().5de2d11321=+yxyxWZEy由协方差公式得由协方差公式得.23,21),4,0(),3,1

24、(,22YXZNNYXXY+=设且分别服从已知随机变量+=设且分别服从已知随机变量(1)求求Z的数学期望和方差的数学期望和方差;(2)求求X与与Z的相关系数的相关系数;.16)(,0)(,9)(,1)()1(=YDYEXDXE由由)23()(YXEZE+=得+=得)(21)(31YEXE+=+=.31=解解例例2-3例例2-3 +=2,3ovc223)(YXYDXDZD),ov(c31)(41)(91YXYDXD+=+=)()(31)(41)(91YDXDYDXDXY+=+=.3241=+=)()(21)(31YDXDXDXY+=+=().0)()(),ov(c=ZDXDZXXY故故 +=+=

25、23,ovc),ov(c)2(YXXZX),ov(c21),ov(c31YXXX+=+=.6:,5.0,4)(,1)(,2)(,2)(+=+=YXPYDXDYEXEXY估计试根据切比谢夫不等式设估计试根据切比谢夫不等式设例例2-4例例2-4解解,0)()()(=+=+YEXEYXE),ov(c2)()()(YXYDXDYXD+=+XYYDXDYDXD)()(2)()(+=,3)5.0(21241=+=6)()(6+=+YXEYXPYXP2)()(XDXEXP26)(YXD+.121=例例4-1 设随机变量设随机变量X,Y有方差有方差,求证求证:随机变量随机变量U=X+Y与与V=X Y不相关的充

26、分必要条件为不相关的充分必要条件为D(X)=)=D(Y).()()YXYXVU+=,cov,cov()()YYXX,cov,cov=解解因为因为()().YDXD=因此因此,cov(U,V)=)=0 的充要条件是的充要条件是 D(X)=)=D(Y).例例4-2 设掷三次均匀硬币设掷三次均匀硬币,随机变量随机变量X表示出现的正面次数表示出现的正面次数,Y表示正面次数与反面次数的差的绝对值表示正面次数与反面次数的差的绝对值,(1)X与与Y是否不相关是否不相关?(2)X与与Y是否相互独立是否相互独立?解解计算概率计算概率,得联合分布律得联合分布律1/8 0 0 1/830 3/8 3/801 0 1 2 3Y X计算行和与列和计算行和与列和,得边缘分布律得边缘分布律.4/14/331,8/18/38/38/13210 YX ,101,0=YPXPYXP()()().4/9,2/3,2/3=XYEYEXE由于因此由于因此,X与与Y不相互独立不相互独立.由协方差公式得由协方差公式得()()()().0,cov=YEXEXYEYX于是于是X与与Y不相关不相关.又因为又因为