3应用数理统计参数估计1

第二章参数估计§1点估计和点估计量的求法一、参数估计的思想参数是指母体分布中的未知参数，参数估计就是由子样值对母体的未知参数做出估计。对于前面的灯泡寿命问题，由中心极限定理和实际经验知道，灯泡寿命X服从正态分布这是区间估计。内，或不低于某个数。是在某个范围命可靠性来估计其平均寿，有时还希望以一定的，这就是参数估计量，就要求估计所生产的这批灯泡的质的具体数值，为了判定但是一般我们不知道222,,),,(N1、点估计：构造一个统计量作为参数θ的估计量，记作。如果总体中有k个未知参数，则需要构造k个不同的统计量分别作为各个参数的估计量，即：nXX,,1nXX,,ˆ1k,,1kiXXni,,1,,,1kiXXnii,,1,,ˆ1注：由于点估计是样本的函数，所以是随机变量或随机向量二、参数估计的方式一般的，母体分布函数中有k个未知参数,需做k个统计量用来估计这些参数值。例题在五块条件基本相同的田地上种植某种农作物，亩产量分别为92,94,103,105,106，求子样均值和方差.12252112222219294103105106100511100519210094100103100105100106100534niiniiiiXxnSxxxn假定农作物产量服从正态分布，341002的估计值，的估计值。),(2N是参数的点估计量---矩估计估计未知参数的值估计未知参数的取值范围，并使此范围包含未知参数真值的概率为给定的值.参数估计的种类点估计：区间估计三、参数估计的种类设这5个数是:1.651.671.681.781.69若估计μ为1.68，这是点估计.这是区间估计.若估计μ在区间（1.57,1.84）内，现从该总体选取容量为5的样本，我们的任务是要例如：我们要估计某队男生的平均身高.且假定身高服从正态分布)1.0,(2μN根据选出的样本值（5个数）求出总体均值μ的估计值.而全部信息就由这5个数组成.三.矩估计法-----点估计方法一理论依据：（辛钦大数定律及其推论）设随机变量序列X1,X2,…相互独立，服从同一分布，具有相同的数学期望E(Xi)=μ,i=1,2,…，则对于任给正数ε0，总成立1}|1{|lim1εμXnPniin即）（nμXnPnii11方法：出待估参数.用样本k阶矩nikikXnA11估计总体k阶矩，)(kkXEμ建立含有待估参数的方程,从而解记总体k阶矩为)(kkXEμnikikXnA11样本k阶矩为则样本k阶矩依概率收敛于总体k阶矩.kμkA样本X1,X2,…,Xn的前k阶矩记为，nirirXnA11步骤：k,,,r21设总体的分布函数的形式已知，待估参数为，kθθθ,,,21总体的前k阶矩存在.，),,,()(21krrθθθμXEkr,,2,1（1）求出总体的前k阶矩，一般是这k个参数的函函数,记为：（3）解此方程组,得k个统计量：111212ˆˆ(,,,)ˆˆ(,,,)nkknXXXXXX称为未知参数1,,k的矩估计量这是含未知参数1,2,,k的k个方程构成的方程组，（2）令),,,(21krθθθμniriXn11kr,,2,1111212ˆ(,,,)ˆ(,,,)nkknxxxxxx代入样本值，得k个数:称为未知参数1,,k的矩估计值例1.设总体伯努利分布X~B(m,p),其中p未知，X1,X2,…,Xn为总体的样本,求p的矩估计量.解：()EXmp.Xmp令得ˆ/.pXm总体矩样本矩例2.设总体X的概率密度为σxeσxf21)(解：||221()2xEXxedx22X1，…，Xn为样本，求参数的矩估计.20()xxde02xedx02()xxde200()|2xxxexedx201xxedx令222112niiAXn得211ˆ2niiXn总体矩样本矩||1()02xEXxedx另外本题例3.设X1,X2,…Xn是取自总体X的一个样本为未知参数其它μθμxeθxfXθμx,,0,1)(~)(其中θ0,求θ，μ的矩估计.解:1()xEXxedxxxde（）|xxxeedx（）|xe221()xEXxedx2xxde（）2|2xxxexedx（）22E(X)2222212xxedx令解得用样本矩估计总体矩,X2221122niiXnniiXXnθ1221ˆXμˆniiXXn1221不论总体为何分布，总体均值的矩估计量总是样本均值，X总体方差的矩估计量总是二阶中心矩.2M例4.设从某灯泡厂某天生产的灯泡中随机抽取10只灯泡，测得其寿命为(单位:小时)1050,1100,1080,1120,1200，1250,1040,1130,1300,1200，试用矩法估计该厂这天生产的灯泡的平均寿命及寿命分布的方差.解：2ˆxμˆ)(1147101101hxii1021110iixx（）2M26821().h四、极大似然估计法即：在一次试验中，概率最大的事件最有可能发生.引例:有两个外形相同的箱子,各装100个球，一箱中有99个白球1个红球，一箱中有1个白球99个红球。取得的球是白球.问:所取的球来自哪一箱？答:第一箱.现从两箱中任取一箱,并从箱中任取一球,结果所一般说，若事件A发生的概率与参数有关，取值不同，P(A)也不同。则应记事件A发生的概率为P(A|).若一次试验，事件A发生了，可认为此时的值应是在中使P(A|)达到最大的那一个。这就是极大似然原理.（极大似然原理）极大似然估计法的理论依据：X1,X2,…Xn是取自总体X的样本，x1,x2,…xn是样本值.则样本的联合分布律为：12{}(,,,)kPXxpx似然函数：121(,,,)nikipx其中12,,k为未知待估参数，1122{,,,}nnPXxXxXx11221212(,,,)(,,,)(,,,)kknkpxpxpx1.X是离散型总体，其分布律为:记12121(,,)(,,,)nkikiLpx12(,,,)kfx2.X是连续型总体，其概率密度为为其样本的似然函数.则称12121(,,)(,,,)nkikiLfx称为样本的似然函数.12(,,)kL似然函数12(,,)kL的值的大小实质上反映的是该样本值出现的可能性大小.极大似然估计的方法：对于给定的样本值x1,x2,…,xn，选取12,,,k，使得其似然函数12(,,)kL达到最大值。即求12ˆ(,),1,2,iinxxxik，，使得1212ˆˆˆ,,,)max(,,)kkLL（，7-22111212ˆ(,,,)ˆ(,,,)nkknxxxxxx称为未知参数1,,k的极大似然估计值这样得到的估计值对应的统计量111212ˆˆ(,,,)ˆˆ(,,,)nkknXXXXXX称为未知参数1,,k的极大似然估计量(1)由总体分布和所给样本，求得似然函数步骤：12121(,,)(,,,)nkikiLfx(2)求似然函数12(,,)kL的对数函数函数（化积商为和差，而12ln(,,)kL和12(,,)kL同时取得最大值）12121ln(,,)ln(,,,)nkikiLfx(3)解方程组121ln(,,)0kL122ln(,,)0kL12ln(,,)0kkL7-12(4)得未知参数1,,k的极大似然估计值111212ˆ(,,,)ˆ(,,,)nkknxxxxxx及其对应的极大似然估计量111212ˆˆ(,,,)ˆˆ(,,,)nkknXXXXXX7-12若待估参数只有一个，则似然函数是一元函数L(θ)，此时，只须将上述步骤中求偏导改为求导即可。说明：,1,0,!)();(xexλxXPλxpλx例5.设总体X服从参数为)0(λλ的泊松分布，求参数λ的极大似然估计量解：的样本，样本观察值为),,,(21nxxx由X服从泊松分布，得X的分布律为),,,(21nXXX为从总体X中随机抽取设λniixexλλLi1!)(似然函数为!!....!.211nxλnxxxλenii两边取对数，得niiniiInxλInxλnλInL11!)()(λd)λ(Llnd=0得对λ求导，并令其为0，xxnλnii11ˆ所以参数λ的极大似然估计量为：XXn1λˆn1iiλxnn1ii000),(1xxeaxλλxfaxλa，其中λ0总体X的样本值，求参数λ的极大似然估计值.例6.设总体X的概率密度为为待估参数，a0是已知常数，),,,(21nxxx是取自解:niiλxfλL1),()(aixλniaieaxλ11niaixλaniinnexaλ111)(两边取对数，得)(lnλLalnnλlnnn1iain1iixλ)xln()1a(对λ求导,并令其为0，λdλLd)(lnn1iaixλn0得niaixnλ1ˆ这就是λ的极大似然估计值.012322θ2θ(1θ)θ12θXP其中θ是未知参数，3，1，3，0，3，1，2，3，是来自总体X的样本观察值,求参数θ的极大似然估计值.）（210θ例7（离散）.设总体X的分布律解：)(θL2211221θθθθθ）（）（）（）（）（）（θθθθθ21122122461214）（）（θθθ两边取对数，得)(lnθL)1ln(2)21ln(4ln64lnθθθ对θ求导，并令其为0，=0得12137θ12137θ和因为,2112137θ不合题意，所以θ的极大似然估计值为12137θθdθLd)(lnθθθ122186例10设X~N(μ,σ2),μ,σ2为未知参数,x1,…,xn是来自X的一个样本值.求μ,σ2的极大似然估计量.极大似然估计例题---课本P39解:nixniiiexfL122122),;(),(2222122221),(inixnneL22221ln(,)ln(2)ln222niixnnL令221222241ln(,)1()0ln(,)022niiniiLxxLn2121)(1,1niiniixxnxxn212)(1,niiXXnX为的极大似然估计.2,1.可证明极大似然估计具有下述性质：设θ的函数g=g(θ)是上的实值函数,且有唯一反函数.如果是θ的极大似然估计，则g()也是g(θ)的极大似然估计.ˆˆ关于极大似然估计的两点说明：此性质称为极大似然估计的不变性例8.设X1X2，…，Xn为取自参数为θ的指数分布总体的样本，a0为