充分统计量与完备统计量

一、充分统计量二、因子分解定理三、完备统计量§2.3充分统计量与完备统计量四、指数型分布族1.问题的引出一、充分统计量由于样本来自总体，抽取出来的样本包含有总体的信息。数理统计主要是利用样本信息推断总体的信息，如何将样本中包含总体的信息提取出来？以及是否将样本中包含总体的信息完全提取出来？这些都是数理统计需要解决的问题。22(,),,,nNXS例如，设总体服从在上一节中，用222,nXS去估计总体的和，能否将和的信息完全提炼出来呢？2.定义定义1.41922年英国统计学家Fisher提出了描述总体信息是否被完全提炼的概念—充分统计量.1212,,,(,)(,,,)(nnXXXXFxTTXXX设是来自总体具有分布函数的一个样本，为一个一维或多12),,,TnTtXXX维统计量，当给定时，若样本（）的12(,,,|)nFxxxtT条件分布(离散总体为条件概率，连续总体为条件密度)与参数无关，则称为的充分统计量.3.充分统计量的意义如果知道了统计量T的观察值以后，样本的条件分布与无关，也就是样本的剩余部分不再包含关于的信息，换言之，在T中包含了关于的全部信息，因此要做关于的统计推断，只需用统计量T就足够啦.例11(,),XBp设总体服从两点分布即1110{}(),,,xxPXxppx12(,,,)TnXXXX是来自总体的一个样本，试证11.niiXXpn是参数的充分统计量证利用定义证明其是充分统计量1122{,,,|}nnkPXxXxXxXn1122{,,,,}{}nnkPXxXxXxXnkPXn1122{,,,,}{}nnPXxXxXxnXkPnXk112211{,,,,}{}nnniiniiPXxXxXxXkPXk11221{,,,}{}nnniiPXxXxXxPXk11221{}{}{}{}nnniiPXxPXxPXxPXk111110(),,(),nniiiixnxnikknkinppxkCpp其他，110,,,nikinxkC其他，.pXp显然该条件分布与无关，因而是的充分统计量说明利用定义判别充分统计量比较麻烦，因而需要需求更好的判别准则。二、因子分解定理1.充分统计量的判别准则定理1.3(因子分解定理)(Fisher-Nerman准则)(1)连续型情况12(,),(,,,)TnXfxXXX设总体具有分布密度12(,,,)nTXXXT是一个样本，是一个统计量，则是的充分统计量的充要条件是：样本的联合分布密度可以分解为12121()(,)(,,,)((,,,),)ninniLfxhxxxgTxxx1212,,,,,,.nnhxxxgTxxx其中是的非负函数且与无关，仅通过依赖于(2)离散型情况12()(){}(,),(,,),iiXPXxpxi设总体的分布律1212(,,,)(,,,)TnnXXXTXXX是一个样本，是一T个统计量，则是的充分统计量的充要条件是：样本的联合分布律可以分解为12121()(,)(,,,)((,,,),)innniPxhxxxgTxxx1212,,,,,,.nnhxxxgTxxx其中是的非负函数且与无关，仅通过依赖于说明：T如果参数为向量时，统计量也是随机向量，例如22(,),(,).nTXS则相应的统计向量可以为以下将通过几个例子来说明判别法则的应用证明涉及测度论，从略例2根据因子分解定理证明例2.3解1122{,,,}nnPXxXxXx111111()()()nnniiiiiixnxxnppppp1111111()()()()niixnnnnXnpppppp121212111(,,,),(,,,),((,,,),)()(),nnnnTnTxxxXhxxxpgTxxxppX其中因而，是充分统计量.例31211(,,,)().TnniiXXXPXXn设是来自泊松分布的一个样本，试证是参数的充分统计量解111221{,,,}e!niixnnnniiPXxXxXxx11111ee!!niixnnnXnnnniiiixx12121121(,,,),(,,,),!((,,,),)e,nnniinTnnTxxxXhxxxxgTxxxX其中因而，是充分统计量.例41211(,,,).TnniiXXXNXXn设是来自正态总体(,1)的一个样本，试证是参数的充分统计量解211212{()}()e(π)niixnL211122exp{()(π)ninixxx22111222exp{()()}(π)nininxxx22111222exp{()}exp{()}(π)nininxxx12122121212122(,,,),(,,,)exp{()},((,,,),)exp{(π)()},nnninniTxxxxhxxxxxgTxxxnTX其中因而，是充分统计量例51221212(,,,),,,)(,),.TnnTniiTXXXTXXXXX2设是来自正态总体N(,)的一个样本，试证(是参数=()的联合充分统计量解2211212{()}()e(π)niixnL22222111222exp{}(π)nininnxx212121212221221221111222(,,,)(,),(,,,),((,,,),)exp{(π)},(,,,)(,)nTnininnininTniiTxxxxxhxxxngTxxxxxnTxxxxx其中因而，是充分统计向量。2.充分统计量的函数特性定理1.412(,,,)()().nTTXXXftfT设是的一个充分统计量，是一个单值可逆函数，则也是的一个充分统计量证以连续型为例，由因子分解定理可知12121()(,)(,,,)((,,,),)ninniLfxhxxxgTxxx11212(,,,)((((,,,))),)nnhxxxgffTxxx12(,,,)nfxxx由因子分解定理可知，是的充分统计量，因而充分统计量不唯一.1212(,,,)((,,,),)nnhxxxqfxxx三、完备统计量(,)()Fx设总体的分布函数族为，若对于任意一个满足0[()],EgX对一切，(),gX的随机变量总有统计量的充分性与完备性在寻找参数的优良估计中将起到重要的作用.定义1.501{()},PgX对一切，(,),}.Fx则称{的完备的分布函数族定义1.61212,,,(,)(,,,)nnXXXXFxTTXXX设是来自总体具有分布函数的一个样本，的分布函数族12{(,),}(,,,)TnFxTTXXX是完备的分布函数族，则称为完备统计量.说明完备性的含义不是很显然.但它具有下列性质12121{()()},,(())(()),PgTgTEgTEgT一方面，121201(()(()),{()()},,EgTgTPgTgT另一方面，－＝例6(p11例1.8)1(,),XBp设总体服从两点分布即1110{}(),,,xxPXxppx12(,,,)TnXXXX是来自总体的一个样本，试证11.niiXXpn是参数的完备统计量证1{}{}(),kknknkPXPnXkCppn由于＝因而010(())()()nkknkpnkkEgXgCppn如果，则0101()()()nnkknkkppgCnp，0010101()()nkknkkppgCnppp即对任意的,，而此式是关于的多项式，因而每项系数只能为，则001({(},pkkgPgXnn），因而满足）所以是完备统计量.充分完备统计量如果一个统计量既是充分的，又是完备的，则称为充分完备统计量.四、指数型分布族(,),Xfx设总体的分布密度为其中1212(,,,),,,,TmnXXX为其样本，若样本的联合分布密度具有形式1、指数型分布族的概念12(,,,)nTXXX判断一个统计量是否为充分完备统计量比较复杂，为此介绍一类分布族，其参数的充分完备统计量容易发现。定义1.7121211(,)()exp{()(,,,)}(,,,)nmijjnnijfxCbTxxxhxxx(),(),(,)jjCbThfx其中只与有关而与样本无关，只与样本有关，而与无关.则称为指数型分布族.说明对于离散型分布律也有类似的定义.2、指数型分布族参数的充分完备统计量的构造(,)Xfx设总体的分布密度为为指数型分布族，即样本的联合分布密度具有形式定理1.5121211(,)()exp{()(,,,)}(,,,)nmijjnnijfxCbTxxxhxxx12(,,,)Tmm其中，，如果包含一个1122((),(),,())TnnBbbb维矩形，而且的值域112((,,,),nmTTXXX包含有一个维的开集，则2121212(,,,),(,,,))(,,,).TnmnTmTXXXTXXX是参数的充分完备统计量证明（略）例7(p12例1.9)1211(,,,)().TnniiXXXPXXn设是来自泊松分布的一个样本，试证是参数的充分完备统计量解111221{,,,}e!niixnnnniiPXxXxXxx11111eeexp{ln}!!niixnnnnnniiiiXnxx121211(,,,),(,,,),!()e,()ln,nnniinTxxxXhxxxxCbnX其中因而，是充分完备统计量例8(p12例1.10)12122211(,,,),,,)(,),.TnnnTTiiXXXTXXXXXn2设是来自正态总体N(,)的一个样本，试证(是参数=()的联合充分统计量解22211122(,)exp{()}(π)niniLx2222222211122eexp{}(π)nnininnxxn222121212222222212122111221(,,,)(,),(,,,),(,)e(,)(π)(,,,)(,)(,)(,)(,)nTnininTnnTTniiTnTxxxxxhxxxnnnCBTXXXXXnXS其中,,因而，是的充分完备统计向量.因而也是的充分完备统计向量.