协方差与相关系数

《概率统计》下页结束返回复习σ21/λ2(b-a)2/12λnpqpqD（X）μ1/λ(a+b)/2λnppE（X）N(μ,σ2)E(λ)U(a,b)P(λ)B（n,p)0-1分布D(X)=E{[X–E(X)]2}12)]([)(kkkpXExXD22)]([)()(XEXEXD1.方差的定义与计算3.常见分布的期望与方差2.D(X)的性质(…)dxxfXExXD)()]([)(2下页《概率统计》下页结束返回前面我们介绍了随机变量的数学期望和方差，对于多维随机变量，反映分量之间关系的数字特征中，最重要的，就是本讲要讨论的“协方差和相关系数”.§4.3协方差和相关系数下页《概率统计》下页结束返回下页1.定义若E[X-E(X)][Y-E(Y)]存在，则称其为随机变量X与Y的协方差。记为Cov（X，Y）即Cov(X,Y)=E[XE(X)][YE(Y)]协方差Cov(X,Y)=ijijjipYEyXEx)]()][([dxdyyxfYEyXEx),()]()][([2.协方差的计算一.协方差离散型随机向量其中P{X=xi,Y=yj}=piji,j=1,2,3,….连续型随机向量Cov(X,Y)《概率统计》下页结束返回Cov(X,Y)=E(XY)-E(X)E(Y)X与Y独立，Cov(X,Y)=0.3.计算协方差的一个简单公式由协方差的定义及期望的性质，可得Cov(X,Y)=E{[X-E(X)][Y-E(Y)]}=E(XY)-E(X)E(Y)-E(Y)E(X)+E(X)E(Y)=E(XY)-E(X)E(Y)即下页=E[XY-E(X)Y-E(Y)X+E(X)E(Y)]《概率统计》下页结束返回例1.求Cov(X,Y)Y123101/61/1221/61/61/631/121/60X1/21/41/4¼½¼解：E(X)=2,E(Y)=2；Cov(X,Y)=23/6–4=－1/6;623ijjijipyxE(XY)=下页《概率统计》下页结束返回若X1,X2,…,Xn两两独立,，上式化为(2)D(X+Y)=D(X)+D(Y)+2Cov(X,Y)4.随机变量的方差与协方差的关系),(2)()(11jininijiiiXXCovXDXDniniiiXDXD11)()(下页(1)Cov(X,X)=D(X)《概率统计》下页结束返回5.协方差的性质（4）当X与Y相互独立时，有Cov(X,Y)=0（1）Cov(X,Y)=Cov(Y,X)（2）Cov(aX,bY)=abCov(X,Y),a,b为常数（3）Cov(X1+X2,Y)=Cov(X1,Y)+Cov(X2,Y)例2．已知D(X)=2，D(Y)=4，Cov(X,Y)=-2，求3X-4Y+8的方差。解：D(3X-4Y+8)=D(3X)+D(4Y)-2Cov(3X,4Y)=9D(X)+16D(Y)–24Cov(X,Y)=18+64+48=130若X，Y相互独立，D(3X-4Y+8)=D(3X)+D(4Y)=82下页《概率统计》下页结束返回由协方差的性质(2)知,协方差取值的大小要受到量纲的影响,为了消除量纲对协方差值的影响,我们把X,Y标准化后再求协方差*XEXXDX*YEYYDY**(,)CovXY[]XEXYEYEDXDY**()EXY****{[()][()]}EXEXYEY{[][]}()EXEXYEYDXDY(,)()CovXYDXDY下页《概率统计》下页结束返回二.相关系数（标准协方差）1.定义对于随机变量X和Y,若D（X)≠０,D（Y)≠０,则称)()(),(YDXDYXCovXY为随机变量X和Y的相关系数。当ρXY=0时,称X与Y不相关。２.性质（1）|ρXY|≤1；（2）|ρXY|=1当且仅当P{Y=aX+b}=1,其中a,b为常数。相关系数ρXY刻划了随机变量X和Y的线性相关程度。下页**(,)XYCovXY相关系数又称为标准协方差）《概率统计》下页结束返回例3.求ρXY解：E(X)=2,E(Y)=2；E(X2)=9/2,E(Y2)=9/2；D(X)=1/2D(Y)=1/2E(XY)=Cov(X,Y)=23/6–4=-1/6;31212161)()(),(YDXDYXCovXY¼½¼Y123101/61/1221/61/61/631/121/60X1/41/21/4623ijjijipyx下页《概率统计》下页结束返回例4.设随机变量X的方差D(X)≠０且Y=aX+b(a≠０),求X和Y的相关系数ρXY.解：2()()(),DYDaXbaDX(,){[()][()]}CovXYEXEXYEY{[()][()]}EXEXaXbEaXb2[()]aEXEX().aDX)()(),(YDXDYXCovXY2()()()aDXDXaDX||aa1,0.10aa下页《概率统计》下页结束返回X和Y独立时，=0，但其逆不真.由于当X和Y独立时，Cov(X,Y)=0.故)()(),(YDXDYXCov=00但由并不一定能推出X和Y独立.请看下例.3.相关系数与独立性的关系下页例3.设X服从(-1/2,1/2)内的均匀分布,而Y=cos(X)，求X，Y的相关系数.解：不难求得Cov(X,Y)=0.1/21/2(()0,()cos()(,)0)EXEXYxxfxydxdy因为因而ρ=0，即X和Y不相关.但Y与X有严格的函数关系，即X和Y不独立.《概率统计》下页结束返回然而对下述情形，独立与不相关等价若(X,Y)服从二维正态分布，则X与Y独立X与Y不相关但若X与Y独立，则X与Y一定不相关.由X与Y不相关，不一定能推出X与Y独立.下页相关系数刻划了X和Y间“线性相关”的程度.《概率统计》下页结束返回例5．设（X，Y）服从二维正态分布，求X，Y的相关系数.2211222221212()()()()1[2]2(1)2121(,)21xxyyfxye2121()211(),2xXfxe2222()221(),2yYfye解：X，Y的联合密度f(x,y)及边缘密度fX(x),fY(y)如下：dxdyyxfyxYXCov),())((),(21211212(,)()()XYCovXYDXDY从而说明二维正态分布随机变量X,Y相互独立ρ=0，即X,Y相互独立与不相关是等价的.下页《概率统计》下页结束返回例6．(X,Y)的概率密度如下,试证X与Y既不相关也不相互独立.因fX(x)fY(y)≠f(x,y)，故X与Y不相互独立.其它,01,1),(22yxyxf()(,)EXxfxydxdy012112dxxx(,)()()()CovXYEXYEXEY22111110xxxdxydy其它,011,12),()(2xxdyyxfxfX其它,011,12)(2yyyfY证明：(1)因为同样E（Y）=0于是ρXY=0，所以X与Y不相关。(2)2211111xxxdxdy(,)xyfxydxdy()EXY下页《概率统计》下页结束返回§4.4矩和协方差矩阵设X是随机变量，若k=1,2,…存在，)(kXE称它为X的k阶原点矩.))](([kXEXEk=1,2,…存在，若称它为X的k阶中心矩.说明:期望是X的一阶原点矩，方差是X的二阶中心矩.下页1.原点矩.2.中心矩.《概率统计》下页结束返回协方差Cov(X,Y)是X和Y的二阶混合中心矩.称它为X和Y的k+L阶混合（原点）矩.若})]([)]({[LkYEYXEXE存在，称它为X和Y的k+L阶混合中心矩.)(LkYXE设X和Y是随机变量，若k,L=1,2,…存在，说明:下页3.X和Y的k+L阶混合矩.《概率统计》下页结束返回4.协方差矩阵的定义将二维随机变量（X1,X2）的四个二阶中心矩})]({[21111XEXEc)]}()][({[221112XEXXEXEc排成矩阵的形式:)]}()][({[112221XEXXEXEc})]({[22222XEXEc称此矩阵为（X1,X2）的协方差矩阵.22211211cccc这是一个对称矩阵下页《概率统计》下页结束返回5.n维随机变量(X1,X2,…,Xn)的协方差矩阵.为(X1,X2,…,Xn)的协方差矩阵nnnnnncccccccccC212222111211称矩阵都存在,i,j=1,2,…,n),(jijiXXCovc若)]}()][({[jjiiXEXXEXE下页《概率统计》下页结束返回所以（X，Y）的协方差矩阵为2211[()](,)CEXEXxfxydxdy1022012)cos(1122rdrrddxdyxyx102023202cos41cos1ddrrd2011cos21424d411122CC410041由对称性可知，例1．已知（X，Y）的概率密度，试求（X，Y）协方差矩阵。其它,01,1),(22yxyxf解：下页《概率统计》下页结束返回作业：112页14,15,16,17,18结束