点估计估计量评选标准

第七章参数估计§1点估计•点估计•矩法•极大似然法退出前一页后一页目录第七章参数估计（第二十一讲2）在统计学中，总体的分布是未知的。包括：1）总体分布的类型是已知的，但其中包含未知参数。任务:通过样本来估计这些未知参数(参数估计)。2）总体分布的类型是未知的。任务:通过样本来估计总体的分布(非参数估计).引言退出前一页后一页目录第七章参数估计估参数。是待的形式为已知，的分布函数设总体);(xFX应的样本值。是相的一个样本，是nnxxXXX,,,,11。来估计未知参数值，用它的观察构造一个适当的统计量),,(ˆ),,(ˆ11nnxxXX1ˆ(,,)nXX称为的估计量；的估计值。为称)x,,x(ˆn1退出前一页后一页目录一、矩估计法概率密度为为连续型随机变量，其设X,,,1是待估参数其中k,1,2,,rrEXrk设存在11nrriiAXn其中,1,,,rrArk令分布列为为离散型随机变量，其X1(,,),1,2,,.rrkrk则),,,;(1kxf),,,;(}{1kxpxXP.,,1的样本为来自XXXn矩估计法步骤：的估计量，，，分别作为，，用kk11ˆˆ1(),,,(11)rrkrk，，1ˆˆ(,,)(3,),1,rrkAArk1(,,(2),1,,)rrkrk矩法原理：由辛钦大数定律知11nrriiAXnPr第七章参数估计例1设某炸药厂一天中发生着火现象的次数X服从（用矩法）。试估计参数未知，有以下样本值；的泊松分布，参数为250126225490756543210knkk次着火天数发生着火的次数解：,X令ˆx则。所以估计值22.1ˆ§1点估计22.1)16901750(2501niiXXnA111,1EX退出前一页后一页目录第七章参数估计是一个样本；未知，又设，但都存在，且，方差的均值设总体nXXX,,,01222的矩估计量。求：2,解：,,2211AA令,,2221AA即,ˆ1XA所以2122ˆAA22EX222)(EXDX2121XXnnii21)(1XXnnii例2§1点估计,1EX退出前一页后一页目录第七章参数估计§1点估计的密度函数为设总体X.,0,10,1其它xxxf的矩估计．为未知参数，试求参数其中0解：dxxxfEX101dxxx21令21X的矩估计量为由此得例3.112ˆXX退出前一页后一页目录1、极大似然估计法的基本思想二、极大似然估计法设有一个人投篮命中率可能为0.1或0.05，现在他投篮一次，球投进了，问在这种情形下，一般来讲我们会更加倾向于哪个答案？一般都会选择这些数组中最大的数字。若为数组（0.05，0.1，0.2），（0.05，0.1，0.2，0.4）在应用中，人们总是认为问题的正确答案应该让事实出现的可能性最大。未知参数的选择应使得试验结果出现的概率最大！参数估计中，未知参数的选择对观察结果的出现最有利。属离散型，其分布律若总体X)1niixp1);(),;(}{xpxXP的联合分布律：则的样本是来自设nnXXXXX,,,,,11,iiixXx设是的样本值则试验结果,i=1,,n出现概率为3、极大似然估计的思想的体现1(;),.niipx.),;()2为待估参数的形式已知，属连续型，其概率密度若总体xfX似为：维立方体）内的概率近的别为的邻域（边长分落在机点的一个样本值，则随是相应设ndxdxxxXXXXxxnnnnn,,),,(),,(,,,,11111);(1iniidxxf而变，故只需考虑：不随但iidx1(;),niifx根据极大似然估计的原理，未知参数的选择应使得试验结果出现的概率最大，即使得111()(,,;)(;)(;)nniiniiLLxxpxfx（离散型总体）（连续型总体）达到最大！并称L为似然函数．的方法称为极大似然法这种求未知参数第七章参数估计§1点估计极大似然法求估计量的步骤：(一般情况下):)()1L构造似然函数,()()(1niixPL离散型）niixfL1;()()(连续型）);(ln)2L取对数：;0ln)3dLd令.ˆ)4的极大似然估计量解似然方程得说明：若似然方程（组）无解，或似然函数不可导，此法失效，改用其它方法.退出前一页后一页目录第七章参数估计的一个样本，是来自设XXXpBXn,,);,1(~1试求参数p的极大似然估计量.解：;1,0,)1(}{1xppxXPxx故似然函数为nixxiipppL11)1()()(lnpL而例2§1点估计,)1(11niiniixnxpp).1ln()(ln)(11pxnpxniinii的分布律为：是一个样本值设X.x,,xn1退出前一页后一页目录第七章参数估计的极大似然估计值解得p的极大似然估计量为p-------它与矩估计量是相同的.即令,0)(lnpLdpd§1点估计xxnpnii11ˆXXnpnii11ˆ)1ln()(ln)()(ln11pxnpxpLniinii.0111pxnpxniinii例2（续）退出前一页后一页目录第七章参数估计的一个样本值，是来自为未知参数，设XxxNXn,,,);,(~122.,2的极大似然估计量求解：})(21exp{21),;(222xxf似然函数为：niixL1222})(21exp{21),(Lln§1点估计例4)ln(22nniix122)(21)2ln(2n2122)(22)2(niixne的概率密度为：X退出前一页后一页目录第七章参数估计0ln0ln2LL令,1ˆ1xxnnii解得：:,2的极大似然估计量为故§1点估计)2ln(2lnnL)ln(22nniix122)(21即：.)(1ˆ1ˆ1221niiniiXXnXXn0)(112niix0)(212-2142niixnniixxn122)(1ˆ例4（续）退出前一页后一页目录似然函数为的密度函数为设总体X解：,11niinxLniixnL1ln1lnln.,0,10,1其它xxxf的极大似然估计．的一个样本．试求是从该总体抽取，，，未知，其中nXX11例5第七章参数估计§1点估计退出前一页后一页目录得似然方程为dLdln，令：0lndLd,0ln1niixn解得,lnˆ1niixn的极大似然估计量为因此.lnˆ1niiXn例5（续）第七章参数估计§1点估计niixnL1ln1lnlnniixn1ln退出前一页后一页目录第七章参数估计是一个样本值，未知，设nxxbabaUX,,,];,[~1.b,a的极大似然估计量求：X的概率密度为：其它,0;,1),;(bxaabbaxf§1点估计nabbaL)(1,),ln(,lnabnbaLnibxai，，，，21;0,lnabnbaLa例6分析：似然函数为,0,lnabnbaLb但这不能说明不存在极大似然估计量，只是不能由似然方程组求解.显然，似然方程组无解，退出前一页后一页目录第七章参数估计§1点估计其它,0;,)(1),()()1(bxxaabbaLnn解：有的任意对于满足babxxan,)()1(nnnxxabbaL)(1)(1),()1()(例6（续）按从小到大顺序排列成将nxx,,1,)()2()1(nxxx则退出前一页后一页目录第七章参数估计时，在即：)()1(,),(nxbxabaL的极大似然估计值为：故ba,,maxˆ,minˆ)()1(inixxbxxa的极大似然估计量为：故ba,.maxˆ,minˆiiXbXa§1点估计nnxx)()1()(取最大值例6（续）退出前一页后一页目录第七章参数估计的极大似然估计；是具有单值反函数，的函数设ˆ),(uu,)(1ˆ2122的极大似然估计是例：niiXXn)0(,)(2222uuuu有单值反函数.)(1ˆˆ122的极大似然估计是故niiXXn§1点估计极大似然估计性质：.)(u)ˆ(uuˆ的极大似然估计是则退出前一页后一页目录第七章参数估计§2估计量的的评选标准•无偏性•有效性•一致性退出前一页后一页目录第七章参数估计§2估计标准我们注意到，在上一节中对于同一个未知参数，用不同方法可以得到不同的估计量.究竟采用哪个为好呢？这就涉及到用什么标准来评价估计量的问题.我们介绍三个常用的标准：1）无偏性；2）有效性；3）一致性.退出前一页后一页目录第七章参数估计§2估计标准,ˆ),,(ˆˆ1EXXn且的数学期望存在，若.ˆ的无偏估计量是则称一、无偏性例1的样本，是总体),(~,,21NXXXn.,2均未知.ˆ的无偏估计量是所以X.)(11ˆ21222的无偏估计量是所以niiXXnS,XE因为,22ES而退出前一页后一页目录niiXXnB1221考察由于niiXXnEBE1221niiXXnnnE1211121SEnn21nn的有偏估计．是总体方差因此，21221niiXXnB第七章参数估计§2估计标准退出前一页后一页目录第七章参数估计§2估计标准计．一定有无穷多个无偏估则，与有两个不同的无偏估计如果未知参数21ˆˆ，数这是因为，对任意的实21ˆ1ˆ的无偏估计．一定是未知参数说明：退出前一页后一页目录第七章参数估计§2估计标准,),,(ˆˆ),,(ˆˆ122111的无偏估计量都是，若nnXXXX.ˆˆ21有效较则称),ˆ()ˆ(21DD且二、有效性未知，，其中，设总体2~NX个样本．是从该总体中抽取的一321,,XXX试验证：;2110351ˆ3211XXX;1254131ˆ3212XXX3213216131ˆXXX计中，哪一个最有效？的估这三个的无偏估计，并指出在都是未知参数例5212111)-ˆ()ˆE-ˆ()ˆ(EED.ˆ1的偏离程度与表示退出前一页后一页目录解：32112110351ˆXXXEE32121254131ˆXXXEE3213216131ˆXXXEE3212110351XEXEXE由于21103513211254131XEXEXE1254131321216131XEXEXE216131例5（续）第七章参数估计§2估计标准退出前一页后一页目录的无偏估计．都是未知参数，，这表明，321ˆˆˆ32112110351ˆXXXDD3