应用统计

1§2.2ParameterestimatePointestimateIntervalestimateCH5PointestimateMomentsestimateMaximumLikelihoodestimate设为未知参数，一般用样本XXXn12，，，构造一个统计量，(=(XXXn12，，，)来作为参数真值的估计，我们称为未知参数的估计量。也称为的点估计。EvaluatestandardMomentsestimatemethodX，22SkkikinmnX11（2-11）k=mk=11nXXikin()（2-12）用样本的某种矩作为总体的相应矩的估计方法称为矩估计法，所得的估计称为矩估计。P7例2-4设nXXX，，，21为X的一个样本，总体分布密度为01)(/)(uxexf其它ux其中0，、u未知，求、u的矩估计量。解：由于1EXxdxxuue1()/xudxxuxuuee()/()/uMomentsestimator22EXxdxxuue21()/2222uu令1X，22m，即uXuum22222解得u，的矩估计为niiniiXXnXXnXm1212222)(11ˆuXnXiin11或：令1X，DXS2，即uXEXEXS2222()解得u，的矩估计为()1121nXXiinuXnXiin112求得均值的矩估计niiXn11，即(,,,)'12m)111(11121niimniniiixnxnxn，，，()'XXXm12，，，（2-13）当X=mXXX，，，21'为m维总体时，可由来自总体X的样本)(112111mxxxX，，，)(222212mxxxX，，，)(21nmnnnxxxX，，，总体X的协方差矩阵为112111222212mmmmmm其中ijijiijjXXEXEXXEXCov(,)()()（ijm,,,,12）的估计为112111222212mmmmmm（2-14）其中，))((11ˆ1jljinlliijXxXxn（ijm,,,,12）。记为))((11ˆ1XXXXninii（2-15）相应地，总体X的相关矩阵为Rmmmm11121112212它的矩估计为Rmmmm11121112212（2-16）其中，ijijiijj（，，，，；）ijmij12。例2-6设)1,0(，)2,1(，)6,2(，为来自总体),(21XXX的一个样本长度为3的样本值，求X的协方差矩阵、相关矩阵R的矩估计。解：31212311)3,1(),()31,31(iiiiXXxxX)3,1311,0102,121(21)933110004221(2172/52/51或))((11ˆ1111111XxXxnσlnll1)10)1((21222))((131ˆ31XXXXiii))((11ˆ2211112XxXxnσlnll25)310)2()1((21))((11ˆ2221222XxXxnσlnll7)3)1()2((212221475712/5ˆˆˆˆ221112121714571451ˆR例如，0.43，0.44，0.40，0.41，0.42，4.50，0.39，0.43，0.40，0.38为来自某个总体长度为10的一个样本,其中大多数样品都集中在0.4左右,而X=0.82,产生这种结果的原因在于第六号样品离群。切尾平均值定义设XXXn12，，，为来自总体X长度为n的一个样本,且按大小排序，即XXXn12，则切尾平均值定义为)][2/(~][1][pnnpnjjpnnXX（2-17）其中012p称为切尾率,上式表示将Xj()jn12，，，中最大和最小的[]pn个值剔除掉，对剩下的中间部分数据求均值。Meanofcuttingtail3样本中位数定义为medXXXXkkk()()1112若若nknk212,,（2-18）由于剔除了两头的极端数据，避免了离群值的过分影响，因此)(~XmedX和都具有良好的稳健性。对上面所讨论的样本，若取p=0.1,则415.0~X，415.0)(Xmed，显然)(~XmedX和较好地反应了大多数样品的平均值情况，当然任何一种估计方法都不是完美无缺的，在具体应用中还要依据问题的实际选择合适的方法。Samplemedian设总体X是离散型随机变量，事件“xX”的概率为px(,)，其中为待估计的未知参数。假定xxxn12,,,是样本XXXn12，，，的一组观察值，即相当于事件2211nnxXxXxX，，，同时发生了，由于XXXn12，，，相互独立，且与总体同分布，所以这n个事件同时发生的概率为)(2211nnxXxXxXP，，，)()()(2211nnxXPxXPxXPniixp1),(ˆ显然它是的函数，称其为似然函数，记作L()，即L()=niixp1),(（2-19）2.MaximumLikelihoodestimate选择使L()达最大的作为未知参数的真实值的估计，这种估计法称为极大似然估计法，即niixpL1),(max)ˆ(所得估计记为(,,,)xxxn12,称为未知参数的极大似然估计值。而称相应统计量(,,,)XXXn12为未知参数的极大似然估计量。因此求的问题归结为求L()的极值问题。如果L()关于可微，则应满足L0或lnL0（2-20）对于连续型随机变量可用fx(,)来代替px(,)。例2-7设XXXXn为，，，21的一个样本，X的分布律为pxpppxx(,)()11)01(，x，求p的极大似然估计。解：似然函数niipxppL1),()(niiniixnxpp11)1(lnln()ln()Lpxnxpiiniin111pxnpxdpLdniinii1ln11nixxiipp11)1(Likelihoodfunction令dLdpln0,解得pnxXiin11,因此p的极大似然估计为Xxnpnii11ˆ当似然函数包含多个未知参数时，即LLxxxnk(,,,;,,,)1212,则j的极大似然估计j(jk12,,,)，可由方程组Lj0),,2,1(kj（2-21）或lnLj0),,2,1(kj（2-22）解得。例2-9设XXXn12，，，为来自正态总体),(~2NX的一个样本，求，2的极大似然估计。解：似然函数为Lexini()()，2211222()122212221nxeiinlnln()Lnxiin22122221令ln()ln()LxLnxiiniin1022212021224214解方程组得11nxXiin，2211nxiin()故，2的极大似然估计为11nxXiin，()222111nxXnnSiin极大似然估计有如下性质：若为的极大似然估计，()有单值反函数，则()()是的极大似然估计。如上例中，()2211nxXiin，2有单值反函数，所以的极大似然估计为()121nxXiin。二.点估计的评价标准定义2-3设为的估计，若ˆE，则称为的无偏估计。定义2-4设为的估计，若依概率收敛于，则称为的相容估计（一致估计）。m2是总体方差2的有偏估计22ˆmEEniiXXnE12)(1221nn若以nn1乘以2，则有EnnnnEm()11222，因此nnm12是2的无偏估计。EvaluatestandardofPointestimateunbiasedestimateunanimityestimate例2-10设总体X服从),(2N，XXXn12，，，为来自正态总体X的一个样本，问样本方差niiXXnS122)(11是否为总体方差2的一致估计。解：由于nnD2))((2，所以12)1()1())1(1(42242222nnDnSnnDDS由切比雪夫不等式，有242222)1(2111nDSSP于是1}{lim22SPn由于概率不能大于1,所以有1}{lim22SPn故2S是总体方差2的一致估计。例2-12设总体X服从),(2N，321XXX，，为来自X的一个样本，且EX存在，试验证统计量(1)、(2)、(3)都是的无偏估计。（1）3212110351XXX；（2）3211254131XXX;（3）321216131XXX。解：（1）由于)2110351(321XXXE所以3212110351XXX是的无偏估计；（2）由于)1254131(321XXXE所以3211254131XXX是的无偏估计。（3）由于)216131(321XXXE所以321216131XXX是的无偏估计。5定义2-5设为、21ˆˆ的两个无偏估计，若DD()()12，且对的某个特定值不等号严格成立，则称12比有效。续例2-12设总体X服从),(2N，321XXX，，为来自X的一个样本，且EX存在，试验证统计量(1)、(2)、(3)都是的无偏估计，并指出哪一个最好。（1）3212110351XXX；（2）3211254131XXX;（3）321216131XXX。effectiveestimate而23215019)2110351(XXXD23217225)1254131(XXXD2321187)216131(XXXD显然22218750197225，故3211254131XXX最好。由此可见，为了估计总体X的均值，除了可以用样本均值X作为它的估计量外，也可以用样本的其他线性函数niiiXa1（niai,,2,1;0）作为它的估计量，只要niia11，则这些估计量都是无偏的。这是因为niiniiiniiiaEXaXaE111)(又因为nDXnXD/12可以证明XDnaDXaXaDniiniiiniii2122121)({naaanaaann22221221)(nan