您好,欢迎访问三七文档
当前位置:首页 > 商业/管理/HR > 其它文档 > 7.1参数的点估计概念
第七章参数估计总体是由总体分布来刻画的.总体分布类型的判断──在实际问题中,我们根据问题本身的专业知识或以往的经验或适当的统计方法,有时可以判断总体分布的类型.总体分布的未知参数的估计──总体分布的参数往往是未知的,需要通过样本来估计.通过样本来估计总体的参数,称为参数估计,它是统计推断的一种重要形式.本章讨论:参数估计的常用方法.估计的优良性准则.若干重要总体的参数估计问题.例如(1)为了研究人们的市场消费行为,我们要先搞清楚人们的收入状况.假设某城市人均年收入X∼N(,2).但参数和2的具体值并不知道,需要通过样本来估计.(2)假定某城市在单位时间(譬如一个月)内交通事故发生次数X∼P().参数未知,需要从样本来估计.这类问题称为参数估计.参数估计问题的一般提法X1,X2,…,Xn要依据该样本对参数作出估计,或估计的某个已知函数.)(g现从该总体抽样,得样本设有一个统计总体,总体的分布函数向量).为F(x,),其中为未知参数(可以是参数估计点估计区间估计)1.0,(2N(假定身高服从正态分布)设这5个数是:1.651.671.681.781.69估计为1.68,这是点估计.这是区间估计.估计在区间[1.57,1.84]内,假如我们要估计某队男生的平均身高.现从该总体选取容量为5的样本,我们的任务是要根据选出的样本(5个数)求出总体均值的估计.而全部信息就由这5个数组成.第七章第一节参数的点估计概念一、点估计概念及讨论的问题例1已知某地区新生婴儿的体重X~),,(2N,,2未知随机抽查100个婴儿…得100个体重数据9,7,6,6.5,5,5.2,…呢?据此,我们应如何估计和而全部信息就由这100个数组成.为估计,我们需要构造出适当的样本的函数T(X1,X2,…Xn),每当有了样本,就代入该函数中算出一个值,用来作为的估计值.把样本值代入T(X1,X2,…Xn)中,得到的一个点估计值.T(X1,X2,…Xn)称为参数的点估计量,注意:估计量,估计值和统计量三个概念的区别和联系二、寻求估计量的方法1.矩估计法2.极大似然法3.最小二乘法4.贝叶斯方法……这里我们主要介绍前面两种方法.其基本思想是用样本矩估计总体矩.理论依据:矩是基于一种简单的“替换”思想建立起来的一种估计方法.是英国统计学家K.皮尔逊最早提出的.大数定律记总体k阶矩为)(kkXE样本k阶矩为nikikXnA11用相应的样本矩去估计总体矩的估计方法就称为矩估计法.记总体k阶中心矩为kkXEXE)]([样本k阶中心矩为nikikXXnB1)(1设总体X的分布函数中含有k个未知参数k,,1步骤一、我们把总体X的m阶原点矩E(Xm)记为am,m=1,2,,k一般地,am(m=1,2,,k)是总体分布中的参数1,2,,k的函数.故应该把am(m=1,2,,k)记之为:am(1,2,,k)(m=1,2,,k)方法步骤二、算出m阶样本原点矩:kmXnAnimim,,2,111步骤三、令am(1,2,,k)=Am(m=1,2,,k)得关于1,2,,k的方程组步骤四、解这个方程组,其解记为kiXXXni,,2,1),,,(ˆ21它们就可以做为1,2,,k的估计.这样求出的估计叫做矩估计.∵X1,X2,,Xn是独立同分布的.∴X1m,X2m,,Xnm也是独立同分布的.于是有:E(X1m)=E(X2m)==E(Xnm)=E(Xm)=am.根据大数定律,样本原点矩Am作为X1m,X2m,,Xnm的算术平均值依概率收敛到均值am=E(Xm).即:mmpnimiaXEXn)(11原理解释解:dxxxXE)1()(1021)1(110dxx由矩估计法,21X样本矩总体矩从中解得,112ˆXX的矩估计.即为数学期望是一阶原点矩是未知参数,例1设总体X的概率密度为其它,010,)1()(xxxf其中1X1,X2,…,Xn是取自X的样本,求参数的矩估计.设总体的均值为,方差为2,于是由此列出方程组:2222)]([)()()(XEXVarXEXE221)()(AXEAXEniiXnX12221即例2均值,方差2的矩估计∴均值,方差2的矩估计是:niiniiXXnXXnX122122)11ˆ(求解得niiXXnX122)1ˆ(21Snn即例如求正态总体N(,2)两个未知参数和2的矩估计为niiXXnX122)1ˆ(总体均匀分布X∼U(a,b).求:两个参数a,b的矩估计解:又如2ˆ)(ˆ)(XVarXE写出方程组niiXXnXu122)1ˆˆ(其中但是12)()(2)(2abXVarbaXE由方程组求解出a,b的矩估计:22ˆ12)(2abXba即有ˆ3ˆˆ3ˆXbXaniiXXn122)1ˆ:ˆ(其中解:由密度函数知例3设X1,X2,…Xn是取自总体X的一个样本为未知参数其它,,0,1)(~)(xexfXx其中0,求的矩估计.,X具有均值为的指数分布故E(X-)=2Var(X-)=即E(X)=2Var(X)=XˆniiXXn12)(1ˆ解得niiXXn12)(1令XniiXXn122)(1用样本矩估计总体矩.,ˆ,ˆ的矩估计即为参数矩法的优点是简单易行,并不需要事先知道总体是什么分布.缺点是,当总体类型已知时,没有充分利用分布提供的信息.一般场合下,矩估计量不具有唯一性.其主要原因在于建立矩法方程时,选取那些总体矩用相应样本矩代替带有一定的随意性.三、极大似然法是在总体类型已知条件下使用的一种参数估计方法.它首先是由德国数学家高斯在1821年提出的,GaussFisher然而,这个方法常归功于英国统计学家费歇.费歇在1922年重新发现了这一方法,并首先研究了这种方法的一些性质.极大似然法的基本思想先看一个简单例子:一只野兔从前方窜过.是谁打中的呢?某位同学与一位猎人一起外出打猎.如果要你推测,你会如何想呢?只听一声枪响,野兔应声倒下.下面我们再看一个例子,进一步体会极大似然法的基本思想.你就会想,只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率.看来这一枪是猎人射中的.这个例子所作的推断已经体现了极大似然法的基本思想.例设一袋子中装有许多红球和白球,且知两种球的数目之比为1:4,但不知哪种球多.现从袋中有放回地抽取5个球,发现这5个球中只有1个红球,问袋中是红球多还是白球多?解从直观感觉上似乎就可以回答这个问题,袋子中应该是白球多.我们不妨从理论上再来分析一下这个判断.设从袋中任取一球是红球的概率为p,则取得的5个球中红球的个数X应服从二项分布551,0,1,2,,5xxPXxppxx.其中p只有两种可能选择:1455p或今抽到5个球中有1个红球的概率是44511511PXpppp.若15p,则41125615(1)55625PX.若45p,则4444{1}5(1)55625PX.这就是说,袋中是红球少时抽取5个球出现1个红球的概率256625,要比袋中是红球多时抽取5个球出现1个红球的概率4625大得多.换句话说,抽取5个球出现1个红球的样本是来自15p的总体的可能性要比来自45p的总体的可能性大得多.一般地,设随机试验有A,B,C,…等若干个可能的试验结果,若在一次试验中结果A已出现,则一般说来当时的试验条件应最有利于结果A的出现,从而使结果A出现的概率为最大,称之为最大似然原理.由此,当对未知参数p可供作为估计值的选择有多个时,自然应选择使结果A出现的概率为最大的那一个ˆp作为p的估计值,这就是最大似然估计法选择未知参数估计值的基本思想.极大似然估计原理:当给定样本X1,X2,…Xn时,定义似然函数为:设X1,X2,…Xn是取自总体X的一个样本,样本的联合密度(连续型)或联合概率函数(离散型)为f(X1,X2,…Xn;).)(Lf(X1,X2,…Xn;)似然函数:)(max)ˆ(LL极大似然估计法就是用使达到最大值的去估计.)(Lˆ称为的极大似然估计(MLE).ˆ看作参数的函数,它可作为将以多大可能产生样本值X1,X2,…Xn的一种度量.)(L)(Lf(X1,X2,…Xn;)1.离散型总体情形设离散型总体X的分布律为1,,lPXxpx;,(1)(2),,xxx.其中12,,,l是未知参数.如果取得样本值12,,,nxxx,那么出现此样本值的概率为11(;,,)niliLpx.(7.3)显然上式(7.3)是未知参数12,,,l的函数,称之为似然函数.根据最大似然原理,既然已取得样本值12,,,nxxx,就可认为当时确定总体成分的未知参数12,,,l的取值,应使样本值12,,,nxxx出现的概率L为最大.于是,可选择12,,,l的适当值12ˆˆˆ,,,l,使11ˆˆmax(;,,)niliLpx.(7.4)由(7.4)式所确定的12ˆˆˆ,,,l叫做未知参数12,,,l的最大似然估计值.最大似然估计值12ˆˆˆ,,,l与样本值12,,,nxxx有关,常记为12ˆ(,,,)knxxx,1,2,,kl.相应的统计量12ˆ(,,,)knXXX,1,2,,kl称为最大似然估计量.根据上述定义,求未知参数12,,,l的最大似然估计值,可归结为求似然函数L的最大值点12ˆˆˆ,,,l.在很多情况下,L是12,,,l的可微函数,按照微分学中求函数最大值的方法L的最大值点12ˆˆˆ,,,l可从方程组0kL,1,2,,kl.(7.5)解出.方程组(7.5)称为似然方程组.由于L与lnL有相同的最大值点,12,,,l的最大似然估计值12ˆˆˆ,,,l也可从方程组ln0kL,1,2,,kl.(7.6)求得。而且方程组(7.6)的求解往往比方程组(7.5)求解简便.通常把方程组(7.6)称为对数似然方程组.L(p)=f(X1,X2,…Xn;p)例1设X1,X2,…Xn是取自总体X~B(1,p)的一个样本,求参数p的极大似然估计.nixxiipp11)1(解:似然函数为:niiniixnxpp11)1(ppXi110~)1ln()()ln()(ln11pxnpxpLniinii对数似然函数为:niiniixnxpppL11)1()(对p求导并令其为0,)(111)(ln11niiniixnpxpdppLd=0得xxnpnii11ˆ即为p的极大似然估计值.例2设离散型总体X服从泊松分布,分布律为,0,1,2,!xPXxexx其中0是未知参数,求的最大似然估计.解设12,,,nxxx是X的一个样本值,则似然函数为1212!!nxxxnLxxx!ne,取对数1231lnlnln!!!niiLxxxxn由对数似然方程ln0dLnxnd解得x故的极大似然估计值为ˆx.2.连续型总体情形设连续型总体X的密度函数为1;,,lfx,其中12,,,l是未知参数.若12,,,nXXX是来自总体X的一个样本,12,,,nxxx是已取得的
本文标题:7.1参数的点估计概念
链接地址:https://www.777doc.com/doc-5001821 .html