北大应用多元统计分析课件第三章

1应用多元统计分析第三章多元正态总体参数的假设检验(一)北大数学学院2§3.1几个重要统计量的分布一、正态变量二次型的分布二、威沙特分布三、霍特林T2分布四、威尔克斯统计量§3.2单总体均值向量的检验及置信域§3.3多总体均值向量的检验第三章多元正态总体参数的假设检验目录(一)北大数学学院3一元统计中,参数μ,σ2的检验涉及到一个总体、二个总体,乃至多个总体的检验问题;推广到p元统计分析中，类似地对参数向量μ和参数矩阵Σ涉及到的检验也有一个总体、二个总体,第三章多元正态总体参数的假设检验北大数学学院4在一元统计中，用于检验μ,σ2的抽样分布有χ2分布,t分布,F分布等,它们都是由来自总体N(μ,σ2)的样本导出的检验统计量.推广到多元统计分析后，也有相应于以上三个常用分布的统计量:Wishart,HotellingT2,WilksΛ统计量,讨论这些统计量的分布是多元统计分析所涉及的假设检验问题的基础.第三章多元正态总体参数的假设检验北大数学学院5设Xi～N1(μi,σ2)(i=1,...…,n),且相互独立，记第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--分量独立的正态变量二次型一般情况(μi＝0，σ2≠1时),结论1北大数学学院6结论2当μi≠0(i=1,…,n),σ2=1时,X′X的分布常称为非中心χ2分布.第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--分量独立的正态变量二次型定义3.1.1设n维随机向量X～Nn(μ,In)(μ≠0),则称随机变量ξ＝X'X为服从n个自由度,非中心参数的χ2分布，记为)(~),,(~22nXXnXXnii`12北大数学学院7第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--分量独立的正态变量二次型则结论3设X～Nn(0,σ2In),A为n阶对称方阵,rk(A)=r,则二次型X'AX/σ2～χ2(r)A2＝A(A为对称幂等阵).2221),,(~1其中nXXYY特例:当A=In时,)(~//222nXXXIXn北大数学学院8第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--非中心t分布和F分布定义3.1.2定义3.1.3北大数学学院9第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--非中心t分布的应用一元统计中，关于一个正态总体N(μ,σ2)的均值检验中，检验H0：μ＝μ0时，检验统计量否定域为{|T|＞λ}，其中λ满足：P{|T|＞λ}=α(显著性水平).北大数学学院10第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--非中心t分布的应用当否定H0第一类错误的概率＝P｛“以真当假”｝＝P｛|T|＞λ|μ＝μ0＝显著性水平α.当H0第二类错误的概率＝P｛“以假当真”｝＝P｛|T|≤λ|μ=μ1≠μ0｝=β.此时检验统计量T～t(n-1,δ),利用非中心t分布可以计算第二类错误β的值.北大数学学院11第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--Wishart分布(威沙特分布)Wishart分布是一元统计中χ2分布的推广.多元正态总体Np(μ,Σ)中,常用样本均值向量X作为μ的估计，样本协差阵S＝A/(n-1)作为Σ的估计.由第二章的定理2.5.2已给出了X～Np(μ,Σ/n).S~?.一元统计中，用样本方差作为σ2的估计，而且知道niiXXns12)(2)(11)1(~)(1212)(2nXXnii北大数学学院12第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--Wishart分布(威沙特分布)推广到p元正态总体,样本协差阵S＝A/(n-1)及随机矩阵A(离差阵)的分布是什么?设X(α)(α＝1,…,n)为来自Np(0,Σ)的随机样本,考虑随机矩阵的分布.当p=1时，pnnpnnnXXXXXXXXW)()1()()1(1)()(,,).(~,,2211)()1()()1(12)(nXXXXXXXWnnnnn北大数学学院13第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--Wishart分布(威沙特分布)推广到p维正态总体时，随机矩阵W的分布是什么?定义3.1.4设X(α)～Np(0,Σ)(α＝1,…,n)相互独立，则称随机矩阵的分布为Wishart分布(威沙特分布)，记为W～Wp(n,Σ).显然p=1时,即XXXXWn1)()()(~2122)(nXWn北大数学学院14第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--Wishart分布(威沙特分布)一般地,设X(α)～Np(μ,Σ)(α＝1,…,n)相互独立,记则称W＝X'X服从非中心参数为Δ的非中心Wishart分布,记为W～Wp(n,Σ,Δ).其中北大数学学院15第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--Wishart分布(威沙特分布)当X(α)～Np(μα,Σ)(α＝1,…,n)相互独立时，非中心参数这里其中p为随机矩阵W的阶数,n为自由度,一元统计中的σ2对应p元统计中的协差阵Σ.北大数学学院16第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--Wishart分布的性质性质1设X(α)～Np(μ,Σ)(α＝1,…,n)相互独立，则样本离差阵A服从Wishart分布，即证明根据第二章§2.5的定理2.5.2知而Zα～Np(0,Σ)(α=1,…,n-1)相互独立,由定义3.1.4可知A～Wp(n-1,Σ).),1(~))(()(1)(nWXXXXApnZZAn11北大数学学院17第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--Wishart分布的性质由于Wishart分布是χ2分布的推广,它具有χ2分布的一些性质.性质2关于自由度n具有可加性：设Wi～Wp(ni,Σ)(i＝1,…,k)相互独立，则性质3设p阶随机阵W～Wp(n,Σ),C是m×p常数阵,则m阶随机阵CWC′也服从Wishart分布,即CWC′～Wm(n,CΣC′)..),,(~11kkipinnnnWW其中北大数学学院18第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--Wishart分布的性质证明其中Zα～Np(0,Σ)(α=1,…,n)相互独立.令Yα=CZα,则Yα～Nm(0,CΣC′).故).,(~),,(~1CCnWCCWCCnWYYmmn故CCWCZCZYYnnd11由定义3.1.4有:),(~因1dnWZZWpn北大数学学院19第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--Wishart分布的性质①aW～Wp(n,aΣ)(a＞0，为常数).在性质3中只须取C＝a1/2Ip，即得此结论.特例：②设l′＝(l1,…,lp)，则l´Wl＝ξ～W1(n,l´Σl),即ξ～σ2χ2(n)(其中σ2＝l´Σl).在性质3中只须取C＝l´,即得此结论.思考:试问随机阵W的对角元素Wii的分布？北大数学学院20第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--Wishart分布的性质性质4分块Wishart矩阵的分布:设X(α)～Np(0,Σ)(α＝1,…,n)相互独立，其中又已知随机矩阵则(习题3-4)rpr22211211),(W~222112111)()(nrpr北大数学学院21第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--Wishart分布的性质性质5设随机矩阵W～Wp(n,Σ)，则E(W)＝nΣ.证明:由定义3.1.4,知),(~1dnWZZWpn其中Zα～Np(0,Σ)(α=1,…,n)相互独立.则.)(D)(E)(E11nZZZWnn北大数学学院22第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--HotellingT2分布一元统计中,若X～N(0,1),～χ2(n),X与相互独立,则随机变量下面把的分布推广到p元总体.设总体X～Np(0,Σ)，随机阵W～Wp(n,Σ),我们来讨论T2＝nX'W-1X的分布.XXnnXt122).(~ntnXt北大数学学院23第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--HotellingT2分布定义3.1.5设X～Np(0,Σ),随机阵W～Wp(n,Σ)(Σ0,n≥p),且X与W相互独立,则称统计量T2＝nX′W-1X为HotellingT2统计量,其分布称为服从n个自由度的T2分布,记为T2～T2(p,n).更一般地,若X～Np(μ,Σ)(μ≠0),则称T2的分布为非中心HotellingT2分布，记为T2～T2(p,n,μ).北大数学学院24第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--HotellingT2分布的性质性质1设X(α)～Np(μ,Σ)(α＝1,…,n)是来自p元总体Np(μ,Σ)的随机样本,X和A分别为总体Np(μ,Σ)的样本均值向量和离差阵,则统计量事实上,因)1,(~)()()())(1(2112npTXSXnXAXnnT).,0(~)(),1,(~ppNXnnNX则北大数学学院25第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--HotellingT2分布的性质而A～Wp(n-1,Σ),且A与X相互独立.由定义3.1.5知)1,(~)()()()()1()]([])()[1(21112npTXSXnXAXnnXnAXnnTAnS11北大数学学院26第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--HotellingT2分布的性质性质2T2与F分布的关系:设T2～T2(p,n)，则在一元统计中)1,(~12pnpFTnppn).,1(~/1/则),(~若22nFnXtntnXt且相互独立)),(~),1,0(~(设2nNX北大数学学院27第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--HotellingT2分布的性质当p=1时,一维总体X～N(0,σ2)，所以注意:因nnpnpnp1,1这是性质2的特例:即p=1时,T2~F(1,n).)(即),(~222112)(1)()(dnnWXXXWnn北大数学学院28第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--HotellingT2分布的性质一般地：(性质2的严格证明见参考文献[2])其中ξ＝X′Σ-1X～χ2(p,δ)(δ＝0)，还可以证明χ2(n-p+1),且ξ与η独立.北大数学学院29第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--HotellingT2分布的性质性质3设X～Np(μ,Σ),随机阵W～Wp(n,Σ)(Σ0,n≥p),且X与W相互独立,T2＝nX′W-1X为非中心HotellingT2统计量(T2～T2(p,n,μ)).21(,1,)npFTFpnpnp'1则其中非中心参数.～北大数学学院30第三章多元正态总体参数的假设检验§3.1几个重要统计量的分布--HotellingT2分布的性质或性质3设X(α)～Np(μ,Σ)(α＝1,…,n)是来自p元总体Np(μ,Σ)的随机样本,X和A分别为样本均值向量和离差阵.记.),,,(~1,)1(1212