数理统计公式

数理统计部分1.Glivenko定理设1,,nxx是取自总体分布函数为()Fx的样本，()nFx是其经验分布函数，当n时，有(sup()()0)|1|nxPxFxF注：Glivenko说明了统计量足够多时，可以用经验分布近似总体分布2.均值均值偏差平方和最小定理：数据观察值与均值的偏差平方和最小，即在形如2()ixc的函数中，2()ixx最小，其中c为任意给定常数注：该定理说明了在平方和最小意义下，均值是估计位置参数的最佳观测量均值分布：若总体分布为2(,)N，则x的精确分布为2(,)Nn若总体分布未知，则n较大时，x渐进分布为2(,)Nn，这种渐进是按分布收敛3.样本方差和样本标准差样本方差：221*1()niixnsx无偏方差：2211()1niisxxn4.均值、样本方差的期望和方差222()Var()()ExxnEs5.次序分布量在一个样本中，1,,nxx是独立同分布的，但是次序统计量(1)(),,nxx既不独立，也不同分布1!()()(1)![1()(]())!knkkFxnpxFxknxkp特别地：11[1()]()()npxnFxpx1()()()nnpxnFxpx6.多个次序统计量的联合分布11[()()][1()]()()!(,)()(1)!(1)()!,,ijiinjjFznpyzFyzijinFyFzpypzijyj样本极差：()(1)nnRxx注：极差通常难以用初等函数表示，但是均匀分布可以用Beta分布表示7.样本p分位数中位数在极限条件下，有良好近似：pm渐进分布为2(1()),()ppppnpxNx中位数0.5m渐进分布为0.20.551,4))((npxNx注：稳健性为统计量抗极端数据干扰能力，中位数稳健性比均值好8.三大统计分布：2分布构造：2221(0,1),~inXXNX记号：22(~)n22Var()2,nEn密度函数特征：只取非负值的偏态分布9.三大统计分布：F分布构造：2212(),~~()XmXn，21,XX独立，12//XmXFn记号：~(,)FFmn(),22nEFnn密度函数特征：只取非负值的偏态分布性质：~(,),1/~(,)FFmnFFnm1((),,)FmFnnm10.三大统计分布：t分布构造：21122~(0,1),~,/()NXntXXXn记号：~()ttn()0,1;Var(),22nEtntnn密度函数特征：关于纵轴对称分布，与正态分布类似，尾部概率更高注1：自由度为1时即Cauchy分布注2：自由度较高时，可以用(0,1)N近似11.正态分布相关定理定理1：若1,,nxx来自于总体分布为2(),N样本，则有x与2s相互独立；2~(,)xNn222(1)~(1)nsn()~(1)nxttns定理2：若1,,nxx来自于总体分布为211,()N样本，1,,nyy来自于总体分布为222,()N样本，且两样本相互独立，记2222211()()(1)(1)22miixyiniwxxyymsnssmnmn则221222/~(1,1)/yxsFFmns12()()~(2)11wxytmnsmn12.点估计：矩估计即用样本矩估计未知参数，缺点在于矩估计构造不唯一，因而尽可能用低阶矩构造点估计13.点估计：最大似然估计（MLE）若将样本联合概率密度视为的函数，记为11()(;,,)(;)(;)nnLLxxpxpx称()L为样本的似然函数，如果某统计量1ˆˆ(,,)nxx满足ˆ()max()LL则称ˆ是的最大似然估计注：实际计算中，为了计算简便，通常构造的是对数似然函数ln()L注2：最大似然估计具有不变性，即如果ˆ是的最大似然估计，则对任意函数()g，其最大似然估计为()ˆg注3：正态分布中，22ˆˆ,*xs注4：均匀分布(0,)U中，()ˆnx，但是有偏，无偏估计为()1ˆnnxn，均方误差最小估计为()2ˆ1nnxn14.点估计评价：相合性定义：ˆ(||)0limnnP相合性充分性判据：若ˆˆlim,lim()(a0V)rnnnnE，则ˆ是的相合估计定理：相合性的不变性若1ˆˆ,,nnk分别是1,,nnk的相合估计，1(,),kg，则1ˆˆˆ(,,)nnkg是的相合估计推论：矩估计通常具有相合性，可由大数定理得到15.点估计评价：无偏性定义：对于的参数空间，任意的，ˆ()E注：2*s不是2无偏估计，而只是渐进无偏估计，因而通常采用2s注2：同相合性，无偏性也有不变性注3：对于有偏估计，可以进行修正，例如对于正态分布，2s是2无偏估计，但是ncs才是的无偏估计，修正系数为1()122()2nnncn注4：无偏性要求比相合性强16.点估计评价：有效性定义：若12ˆˆ,是两个无偏估计，若12ˆˆVar()Var()，且至少存在一个使等号成立，则称1ˆ比2ˆ有效注：有效性前提是无偏估计17.均方误差2ˆˆMSE()()E与无偏性关系：2ˆˆˆMSE()Var()()E，无偏情况下，可以用方差评价点估计（即有效性评价方法）；若并非无偏，在均方误差意义下，评价两个点估计构造，还应当考虑其偏差大小18.置信区间定义：对给定的，如果构造两个统计量ˆ,ˆUL，使得任意，均有)ˆ(ˆ1LUP则称,ˆ]ˆ[LU为置信水平为1的置信区间，两个统计量分别称为置信下限和置信上限，若上式取等号，则称为同等置信区间注：置信区间构造方法为枢轴量法，最短长度构造通常较难，因而一般采用等尾构造19.正态分布置信区间构造：已知求枢轴量：~(0,1)/xGNn置信区间构造式：1/21/2,[]uuxxnn注：该区间为最短置信区间20.正态分布置信区间构造：未知求枢轴量：()~(1)snxttn置信区间构造式：1/21/2,(1)(1)[]txnstnxsnn注：该区间为最短置信区间21.正态分布置信区间构造：求2枢轴量：222(1)~(1)nsn置信区间构造式：22221/2/2(1)(1),(1)(1[])nsnsnn22.一般分布大样本置信区间构造：例如(1,)bp中p估计枢轴量：~(0,1)(1)xpuNppn置信区间构造式：1/21/2(1)(1),[]xxxxxuxunn23.两个正态分布置信区间构造：已知求12（Behrens-Fisher问题）枢轴量：122212()~(0,1)xyuNmn置信区间构造式：2222111/21/222,[]xyuxnnyumm24.两个正态分布置信区间构造：相同但未知求12（Behrens-Fisher问题）枢轴量：1222()(2)~(2)(1)(1)xyxymnmnttmnmnmsns置信区间构造式：1/21/2,[(2)(2)]wwmnmnxysxysmnmntmntmn25.两个正态分布置信区间构造：2212/已知求12（Behrens-Fisher问题）枢轴量：1222()(2)~(2)(1)(1)/xyxymnmnttmnmnmsns置信区间构造式：1/21/2,[(2)(2)]ttmnmnxysxysmnmntmntmn26.两个正态分布置信区间构造：样本充分大求12（Behrens-Fisher问题）枢轴量：122212()~(0,1)xyuNmssn，渐进近似置信区间构造式：2222111/21/222,[]ssxyuxynussnmm27.两个正态分布置信区间构造：一般情况下求12（Behrens-Fisher问题）枢轴量：1202220404422()~()(1)(1)xyxyxyTtlssssnnmslssmmn，渐进近似置信区间构造式：01/201/2,[()()]xysxystltl28.两个正态分布置信区间构造：一般情况下求2212/枢轴量：221222/~(1,1)/yxsFFmns置信区间构造式：22221/2(1,1)/2(1,1)11,[]xxymnymnsssFsF29.势函数01()()W,gPX根据两类错误定义，则进一步有：01()1(),(),g注：与一般随拒绝域选择改变总成反相关，因而一般考虑采用水平为的显著性检验作为拒绝域选择依据30.显著性检验若任意的0均有()g则称该检验为显著性水平为的显著性检验注：按照显著性判据，给定显著性后则可以给出拒绝域31.单正态分布均值检验：已知u检验检验统计量：0/xun单侧检验拒绝域：1{}Wuu{}Wuu双侧检验拒绝域：1/2{||}uWu32.单正态分布均值检验：位置t检验检验统计量：0()nxst单侧检验拒绝域：1({}1)Wttn(1){}Wttn双侧检验拒绝域：1/2(1){||}Wttn33.双正态总体均值差检验：已知u检验检验统计量：2122xyunm单侧检验拒绝域：1{}Wuu{}Wuu双侧检验拒绝域：1/2{||}uWu34.双正态总体均值差检验：未知但相同t检验检验统计量：11wxystmn单侧检验拒绝域：1{}(2)Wttmn(2{})mnWtt双侧检验拒绝域：1/2(2){||}Wttmn35.双正态总体均值差检验：未知但样本量充分大u检验检验统计量：2122xyusmsn单侧检验拒绝域：1{}Wuu{}Wuu双侧检验拒绝域：1/2{||}uWu36.双正态总体均值差检验：未知t检验检验统计量：22yxxymtsns单侧检验拒绝域：1){(}Wttl({})Wttl双侧检验拒绝域：1/2{||}()Wttl37.单正态总体方差检验：2检验检验统计量：2220(1)ns单侧检验拒绝域：221(1){}nW22{}(1)nW双侧检验拒绝域：2222/21/2(1)(1){}{}nnW38.双正态总体方差比检验：F检验检验统计量：22yxsFs单侧检验拒绝域：1({}1,1)mnWFF({}1,1)mnWFF双侧检验拒绝域：/21/2(1,1)(1{,1})}{WFFWmnmFFn