您好,欢迎访问三七文档
7-2第五章参数估计(ParameterEstimation)本章要求:1.理解参数的点估计、估计量与估计值的概念;2.掌握矩估计法(一阶、二阶矩)和极大似然估计法;3.掌握估计量的无偏性、有效性(最小方差性)和一致性(相合性)的概念,并会验证估计量的无偏性;4.掌握区间估计的概念,会求单个正态总体的均值和方差的置信区间;会求两个正态总体的均值差和方差比的置信区间。本章重点、难点:矩估计法、极大似然估计法;区间估计;点估计的评价标准参数估计问题假设检验问题点估计区间估计统计推断DE基本问题7-2第五章参数估计参数是刻画总体某方面的概率特性的数量.当这个数量是未知的时候,从总体抽出一个样本,用某种方法对这个未知参数进行估计就是参数估计.例如,X~N(,2),点估计区间估计若,2未知,通过构造样本的函数,给出它们的估计值或取值范围就是参数估计的内容.点估计——估计未知参数的值区间估计——估计未知参数的取值范围,使得这个范围包含未知参数真值的概率为给定的值.)1.0,(2N(假定身高服从正态分布)设这5个数是:1.651.671.681.781.69估计为1.68,这是点估计.这是区间估计.估计在区间[1.57,1.84]内,假如我们要估计某队男生的平均身高.现从该总体选取容量为5的样本,我们的任务是要根据选出的样本(5个数)求出总体均值的估计.而全部信息就由这5个数组成.§5.1点估计常用方法点估计的思想方法设总体X的分布函数的形式已知,但它含有一个或多个未知参数:1,2,,k设X1,X2,…,Xn为总体的一个样本构造k个统计量:),,,(),,,(),,,(21212211nknnXXXXXXXXX随机变量7-5当测得一组样本值(x1,x2,…,xn)时,代入上述统计量,即可得到k个数:),,,(ˆ),,,(ˆ),,,(ˆ21212211nknnxxxxxxxxx数值称数kˆ,,ˆ,ˆ21为未知参数k,,,21的估计值问题如何构造统计量?如何评价估计量的好坏?对应的统计量为未知参数k,,,21的估计量7-6寻求估计量的方法1.矩估计法2.极大似然法3.最小二乘法4.贝叶斯方法……这里我们主要介绍前面两种方法.1.矩估计法其基本思想是用样本矩估计总体矩.理论依据:它是基于一种简单的“替换”思想建立起来的一种估计方法.是英国统计学家K.皮尔逊最早提出的.大数定律用样本的k阶矩作为总体的k阶矩的估计量,建立含有待估计参数的方程,从而可解出待估计参数.)(,;,0.)(,kkkkk,kXEXEEEXc,)(kXEXc。kcX)(cXE,,kcX记为阶中心矩分布的称为则量若记为矩原点阶分布的为称则量若阶矩的分布关于称为假如它存在则量为正整数为常数为随机变量设7-11设待估计的参数为k,,,21设总体的r阶矩存在,记为),,,()(21krrXE设X1,X2,…,Xn为一样本,样本的r阶矩为nirirXnA11kr,,2,1令),,,(21krniriXn11——含未知参数1,2,,k的方程组7-12解方程组,得k个统计量:),,,(ˆ),,,(ˆ),,,(ˆ21212211nknnXXXXXXXXX——未知参数1,2,,k的矩估计量),,,(ˆˆ),,,(ˆˆ),,,(ˆˆ2121222111nkknnxxxxxxxxx——未知参数1,2,,k的矩估计值代入一组样本值得k个数:例1:对某型号的20辆汽车记录其每5L汽油的行驶里程(公里),观测数据如下:29.827.628.327.930.128.729.928.027.928.728.427.229.528.528.030.029.129.829.626.9对应总体为该型号汽车每5L汽油的行驶里程,其分布形式未知,计算20.528.695,0.9185,28.6nxsm例2设总体X~N(,2),X1,X2,…,Xn为总体的样本,求,2的矩法估计量。解X矩ˆ2121221)(1ˆXXnXXnniinii矩例3设总体X~Exp(),X1,X2,…,Xn为总体的样本,求的矩法估计量。解1)(XE1X令7-13故X1矩。,SSXnn知参数的估计通常采用低阶矩来求未唯一此例说明矩估计可能不令又11,1)var(2227-9一般地,不论总体服从什么分布,总体期望与方差2存在,则它们的矩估计量分别为XXnnii11ˆ2122)(1ˆnniiSXXn7-10事实上,按矩法原理,令niiXnX11)(12122XEXnAniiXˆ)()(ˆ222XEXE22ˆA2121XXnnii212)(1nniiSXXn例4设从某灯泡厂某天生产的一大批灯泡中随机地抽取了10只灯泡,测得其寿命为(单位:小时):1050,1100,1080,1120,12001250,1040,1130,1300,1200试用矩法估计该厂这天生产的灯泡的平均寿命及寿命分布的标准差.解)(1147101)(101hxxXEii6821101ˆ)(210122xxXDii)(25.79)(hXD7-14例5设总体X~U(a,b),a,b未知,求a,b的矩法估计量.解由于12)()(,2)(2abXDbaXE)()()(22XEXDXE令22212)(baabXba2ˆˆniiXnAbaab1222212ˆˆ12)ˆˆ(7-15解得)(3ˆ22XAXa矩niiXXnX12)(3)(3ˆ22XAXb矩niiXXnX12)(37-16解:dxxxXE)1()(10121)1(110dxx由矩法,21X样本矩总体矩从中解得,112ˆXX的矩估计.即为数学期望是一阶原点矩例6设总体X的概率密度为其它,010,)1()(xxxf是未知参数,其中1X1,X2,…,Xn是取自X的样本,求参数的矩估计.解:由密度函数知例7设X1,X2,…Xn是取自总体X的一个样本为未知参数其它,,0,1)(~)(xexfXx其中0,求的矩估计.,X具有均值为的指数分布故E(X-)=2D(X-)=即E(X)=2D(X)=XˆniiXXn12)(1ˆ解得niiXXn12)(1令XniiXXn122)(1用样本矩估计总体矩即E(X)=2D(X)=.,ˆ,ˆ的矩估计即为参数矩法的优点是简单易行,并不需要事先知道总体是什么分布.缺点是,当总体类型已知时,没有充分利用分布提供的信息.一般场合下,矩估计量不具有唯一性(如泊松分布其均值和方差都是λ,因而可用去估计λ)其主要原因在于建立矩法方程时,选取那些总体矩用相应样本矩代替带有一定的随意性.2,nSX2.极大似然法是在总体类型已知条件下使用的一种参数估计方法.它首先是由德国数学家高斯在1821年提出的,GaussFisher然而,这个方法常归功于英国统计学家费歇.费歇在1922年重新发现了这一方法,并首先研究了这种方法的一些性质.点估计的极大似然估计法思想方法:一次试验就出现的事件有较大的概率例如:有两个外形相同的箱子,都装有4个球甲箱1个黑球,3个白球乙箱3个黑球,1个白球现从两箱中任取一箱,并从箱中任取一球,结果所取得的球是黑球。答乙箱.7-17问所取的球来自哪一箱?再任取一箱,再从该箱中有返回地任取三个球,其中有一个黑球,问此时最像取自哪一箱?设X是抽取三个球中黑球的个数,又设P为箱中黑球所占的比例,则X~b(3,p),即。:,XPXPXPXPp,XkppkkXPkk此三球最像是取自甲箱我们判断因而由于对应的概率分别为不同时在乙甲乙甲11649414331642743413113,2,1,0,)1(3223设总体含有待估参数θ,它可以取很多值,我们要在θ的一切可能取值之中选出一个使样本观测值出现的概率为最大的θ值作为θ的估计,并称为θ的极大似然估计。ˆ例设总体X服从0-1分布,且P(X=1)=p,用极大似然法求p的估计值。解X的概率分布可以写成1,0,)1()(1xppxXPxx设X1,X2,…,Xn为总体X的样本,设x1,x2,…,xn为总体X的样本值,则),,,(2211nnxXxXxXP)()1(11pLppniiniixnxnixi,,2,1,1,07-18对于不同的p,L(p)不同,见右下图现经过一次试验,0.20.40.60.81p0.0020.0040.0060.0080.01Lp),,,(2211nnxXxXxX发生了,事件则p的取值应使这个事件发生的概率最大。pˆ7-19在容许的范围内选择p,使L(p)最大注意到,lnL(p)是L的单调增函数,故若某个p使lnL(p)最大,则这个p必使L(p)最大。7-2001ddln11令pxnpxpLniiniixxnpnii11ˆ0)1(dlnd212122pxnpxpLniinii所以xpˆ为所求p的估计值.一般地,设X为离散型随机变量,其分布律为,,,),;()(21uuxxpxXPX1,X2,…,Xn为总体X的样本,x1,x2,…,xn为总体X的样本值,则X1,X2,…,Xn的概率分布为),,,(2211nnxXxXxXPniinxpxpxpxp121;),(),(),(,,,2,1,,,21niuuxi7-21)(),,,,(21LxxxLn记为或称L()为样本的似然函数这里每个x为u中的某个值,这一概率依赖于未知参数θ,可将它看成是θ的函数)ˆ,,,,(21nxxxL)},(),(),(max{21nxfxfxf则称这样得到的ˆ),,,(ˆ21nxxxg为参数的极大似然估计值称统计量),,,(ˆ21nXXXg为参数的极大似然估计量7-22选择适当的=,使取最大值,即ˆL()当给定一组样本值时,就是参数的函数,极大似然估计法的思想就是:L()简记ˆ若随机变量X连续,取f(xi,)为Xi的密度函数niixfL1),()(似然函数为7-23注1注2未知参数个数可以不止一个,如1,2,…,k设X的密度函数(或概率分布)为),,,,(21kxf则定义似然函数为nikikxfL12121),,,,(),,,(nixi,,2,1,),,,(21k),,,;,,,(2121knxxxL若),,,;,,,(2121knxxxL关于1,2,…,k可微,0),,,;,,,(2121knrxxxL为似然方程组kr,,2,1若对于某组给定的样本值x1,x2,…,xn,参数使得似然函数取得最大值,即kˆ,,ˆ,ˆ21)ˆ,,ˆ,ˆ;,,,(2121knxxxL)},,,;,,,({max2121),,,(21knxxxLk则称kˆ,,ˆ,ˆ21为1,2,…,k的极大似然估计值则称7-24显然,),,,(ˆ21nr
本文标题:第5章参数估计2
链接地址:https://www.777doc.com/doc-8686818 .html