B第8章参数估计 浙江农林

概率论与数理统计概率论与数理统计第2页返回目录第八章参数估计§1参数估计的概念§2矩估计法§3最大似然估计法§4点估计优劣的评价标准§5正态总体参数的置信区间§6两个正态总体参数的置信区间§7样本容量的确定第八章习题课概率论与数理统计第3页返回目录由于统计推断是由样本推断总体，其目的是利用问题的基本假定及包含在观测数据中的信息，得出尽量精确和可靠的结论．它的基本问题可以分为两大类：一类是参数估计问题；另一类是假设检验问题．参数估计假设检验推断统计学第八章参数估计概率论与数理统计第4页返回目录§1参数估计的概念定义总体X的分布(;)Fx中包含的未知的参数，称为待估参数．参数所有可能取值构成的集合称为参数空间（ParameterSpace），记为．定义利用样本12(,,,)nXXX去估计总体X中的未知参数的问题，称为参数估计问题．概率论与数理统计第5页返回目录§1.1点估计的概念定义用来估计总体中的待估参数的统计量12ˆ(,,,)nXXX，称为的一个估计量(Estimation)，称12ˆ(,,,)nxxx为的估计值．通常我们统称估计量和估计值为估计，并简记为ˆ．.),,,(ˆ21的估计量称为nXXX.),,,(ˆ21的估计值称为nxxx概率论与数理统计第6页返回目录定义用样本12,,,nXXX的一个合适的统计量12ˆ(,,,)nXXX的观测值12ˆ(,,,)nxxx来估计总体的未知参数，称为参数的点估计(PointEstimation)．概率论与数理统计第7页返回目录§1.2区间估计的概念定义以区间的形式给出参数一个范围，同时给出该区间包含参数真实值的可靠程度．这种形式的估计称之为区间估计(IntervalEstimation)．概率论与数理统计第8页返回目录定义设总体X的分布含有未知参数，12(,,,)nXXX为来自X的样本．对于给定值(01)，如果有112212ˆˆ{}1(,,,)(,,,)-nnXXXXXXP置信区间(ConfidenceInterval)112212ˆˆ(,,,),(,,,)nnXXXXXX置信下限(Confidencelowerlimit)置信上限(Confidenceupperlimit)概率论与数理统计第9页返回目录112212ˆˆ(,,,),(,,,)nnXXXXXX是随机区间，其意义为：12ˆˆ(,)包含参数真值的概率为1-．由于参数不是随机变量，所以不能说参数以1-的概率落入随机区间12ˆˆ(,)，只能说随机区间12ˆˆ(,)以1-的概率包含参数．概率论与数理统计第10页返回目录对于一次具体抽样得到一组观测值12(,,,)nxxx从而得到的置信区间（观测区间）112212ˆˆ(,,,),(,,,)nnxxxxxx的意义在于：若重复抽样多次，每个样本确定一个观测区间12ˆˆ(,)，有时它包含的真值，有时不包含．按大数定律，在这样多的区间中，包含真值的约占100(1)%．概率论与数理统计第11页返回目录用随机模拟方法由~(15,4)XN产生容量为10的样本100个，如图所示，得到100个均值的置信水平为0.90观测区间12ˆˆ(,)，由图可以看出，这100个区间中有91个包含参数真值15，另外9个不包含参数真值．概率论与数理统计第12页返回目录概率论与数理统计第13页返回目录通常用估计的精度和信度来评价区间估计的优劣．其精度可以用区间长度21ˆˆ来衡量，长度越长，精度越低；信度可以用置信水平1来衡量，置信水平越大，信度越高．在样本容量不变的情况下，精度和信度是一对矛盾关系，当一个增大时，另一个将会减小．通过增加样本容量可以提高区间估计的精度和信度．概率论与数理统计第14页返回目录寻求未知参数的置信区间的步骤如下：1．先取的一个“好的”点估计量ˆ，以ˆ为基础构造一个含有未知参数而不含有其他未知参数的随机变量W=W),,,,(21nXXX，W是样本函数，且已知其分布或近似分布.概率论与数理统计第15页返回目录2.对给定的置信水平1，根据);,,,(21nXXXW的分布，按精度最高的原则（实际应用中按照“等尾”原则）定出分位点a和b，使得1),,,(21bXXXWaPn概率论与数理统计第16页返回目录3.从不等式bXXXWan);,,(,21中解出，得1),,,(ˆ),,,(ˆ212211nnXXXXXXP于是的置信水平为1的置信区间为：112212ˆˆ,,,,,,,nnXXXXXX概率论与数理统计第17页返回目录§1.3单侧置信区间定义设),,,(21nXXX为从总体X中抽取的样本，为总体中的未知参数，对给定的01.1),,,(ˆ211nXXXP1),,,(ˆ212nXXXP单侧置信下限单侧置信上限概率论与数理统计第18页返回目录§2矩估计法基本思想：设总体的l阶原点矩()llEX存在，12,,,nXXX是来自总体X的样本，11nlliiAXn为l阶样本原点矩，对于任意的0，则11lim()1nlliniPXEXn概率论与数理统计第19页返回目录定义设样本12(,,,)nXXX来自总体X，总体X中包含有未知参数，若用样本矩替换总体矩，进而得到参数的点估计，这样的估计方法称为矩法估计(SquareEstimation)，简称矩估计．由矩法得到的参数的估计量12ˆ(,,,)nXXX，称为矩估计量(SquareEstimator)，相应的估计值12ˆ(,,,)nxxx，称为矩估计值．概率论与数理统计第20页返回目录求矩估计量的步骤：（1）计算总体X的l阶原点矩)(llXE对连续总体，()(;)llEXxpxdx；对离散总体，1()(;)lliiiEXxpx．概率论与数理统计第21页返回目录（2）令1121221211211ˆˆˆ(,,,)1ˆˆˆ(,,,)1ˆˆˆ(,,,)nkiinkiinkkkiiXnXnXn概率论与数理统计第22页返回目录（3）解方程（组）得1112221212ˆˆ(,,,)ˆˆ(,,,)ˆˆ(,,,)nnkknXXXXXXXXX概率论与数理统计第23页返回目录（4）矩估计值1112221212ˆˆ(,,,)ˆˆ(,,,)ˆˆ(,,,)nnkknxxxxxxxxx概率论与数理统计第24页返回目录例设总体X服从参数为的泊松分布，未知，12,,,nXXX是来自总体的一个样本，求参数的矩估计量．解因为待估参数只有一个，且1()EX，因此，只要令1ˆA，即得111ˆniiAXXn，所以的矩估计量为ˆX．概率论与数理统计第25页返回目录例设总体X服从区间[0,]上的均匀分布,为未知参数，12,,,nXXX为来自该总体X的一个样本，其观测值为12,,,nxxx，试求的矩估计值．总体的密度函数为1,0;0,xpx其它解概率论与数理统计第26页返回目录1()EX022令1ˆ2A解之得111ˆ22(2niiAXXn）矩估计量X2ˆ矩估计值ˆ2x概率论与数理统计第27页返回目录例设总体X的均值与方差分别为与2σ，且均未知，12,,,nXXX为来自该总体的样本，求与2σ的矩估计量．122222()()()()EXEXDXEX解1222ˆˆˆAA令概率论与数理统计第28页返回目录12221ˆˆAAA解之得222211ˆ11ˆ()nniiiiXXXXXnn矩估计量概率论与数理统计第29页返回目录§3最大似然估计法引例根据经验，A能一枪命中猎物的概率10.98p，B能一枪命中猎物的概率20.28p．在一次狩猎中，A、B中有一人向猎物打一枪，猎物被击中倒下，问猎物是哪个猎手击中的？概率论与数理统计第30页返回目录1,0,X猎物被击中猎物未被击中~(1,)XBp{0.98,0.28}p1X的观测值为11x（猎物被击中），原问题相当于问10.98pp，还是20.28pp？11{1;0.98}0.980.28{1;0.28}PXpPXp应取10.98pp时，即认为猎物是A击中的．概率论与数理统计第31页返回目录最大似然的直观想法是：最大似然的直观想法是：一个随机试验如果有若干个可能结果,,,CBA（引例中1{1}AX，1{0}BX），在一次试验中结果A出现了，则认为A出现的概率最大，并且认为试验的很多条件中（引例中{0.98,0.28}p），应该是使事件A发生的概率为最大的那种条件（引例中0.98p）．概率论与数理统计第32页返回目录定义设总体X的概率函数为12(;,,,)kpx，12,,,nxxx为来自总体X的样本观测值，则样本的联合概率函数1212121(,,,;,,,)(;,,,)nnkikipxxxpx称为参数12,,,k的似然函数(LikelihoodFunction)．概率论与数理统计第33页返回目录定义在已经取得的样本观测值12,,,nxxx的条件下，若点12(,,,),(1,2,...,)iinxxxik使似然函数12(,,,)kL达到最大值，即121212(;,,,)(,,,)max(,,,)ikkkxLL则称12,,,k为参数12,,,k的最大似然估计值．相应地称估计量12(,,,),(1,2,...,)iinXXXik为参数12,,,k的最大似然估计量(MaximumLikelihoodEstimator)．概率论与数理统计第34页返回目录求最大似然估计的一般步骤：似然函数12121(,,,)(;,,,)nkikiLpx对数似然函数)(lnL似然方程ln()0dLd解此方程得极大似然估计值12(,,,)nxxx概率论与数理统计第35页返回目录例设总体X服从参数为的指数分布，其中未知，概率密度函数为(;)px,00,0xexx12,,,nxxx为其样本12,,,nXXX的观测值，试求参数的最大似然估计值和估计量．概率论与数理统计第36页返回目录解(;)ipx,00,0ixiiexx似然函数niixneL1)(对数似然函数1ln()lnniiLnx概率论与数理统计第37页返回目录似然方程1ln()0niidnLxd解得最大似然估计值11niinxx最大似然估计量11niinXX概率论与数理统计第38页返回目录例设X的分布律为X123P2)1(221其中为未知参数，10，已知取得一个样本观测值123,,xxx(1,2,1)，求参数的最大似然估计值.解似然函数31231()(;)(1,;)(2,;)(1;)iiLpxpxpxpx2252(1)2(1)概率论与数理统计第39页返回目录对数似然函数ln()ln25lnln(1)L似然方程51ln()01dLd最大似然估计值56概率论与数理统计第40页返回目录例设总体2~(,)XN,其中2,σμ为未知的参数，12,,,nXXX是来自X的样本，其一组观测值为12,,,nxxx，试求2,σμ的最大似然估计量．解22-2