第59讲-无偏估计量

§7.3估计量的评选标准用不同的参数估计法得出的估计量可能是不同的例如，设总体X~U(a,b)，对于来自总体的一个样本X1,X2,…,Xn，a和b的最大似然估计量为而矩估计量为aˆmin{Xi}1inbˆmax{Xi}2ni3nˆaX(XX)i1ini1bˆX(XX)2n3四川大学徐小湛1in百度传课那么我们应该采用哪一个估计量为好呢？这就涉及用什么样的标准来评价估计量的问题。这一节介绍三个常用的估计量的评选标准：(一)无偏性(二)有效性(三)一致性（相合性）四川大学徐小湛百度传课（一）无偏性Unbiasedness百度传课设X1,X2,…,Xn是总体X的一个样本是θ的取值范围。四川大学徐小湛是包含在总体X的分布中的待估参数定义（无偏性）若θ的估计量数学期望E()存在，且对于任意都有E()则称ˆ是θ的无偏估计量。UnbiasedEstimate否则为有偏估计量BiasedEstimate百度传课对于某些样本，所得到的待估参数θ的估计量可能偏大，也可能偏小。θ的估计量估计量的无偏性是指：如果反复使用这一估计量很多次，则其“平均”偏差将为零。无偏估计的实际意义就是无系统误差。称为估计的系统误差。21nni1XXi21nini1B(XX)我们来考察这两个估计量的无偏性。所以样本均值X是总体均值μ的无偏估计。百度传课在前面我们知道，若总体X的均值为μ=E(X)，方差为σ2=D(X)0,则μ和σ2的矩估计量和最大似然估计量相同，分别是四川大学徐小湛E()E(X)我们来考察这两个估计量的无偏性。21n2iS(XX)n1i1对于样本方差所以样本均值X是总体均值μ的无偏估计。有所以样本方差S2是总体方差的无偏估计。1niS2(XX)2n122SnBn1样本二阶中心矩B2是总体方差的有偏估计。正是这个原因，我们把修正(把B2适当增大)后的S2作为样本方差。i1四川大学徐小湛2nnnE(B)E(n1S2)n1E(S2)n1百度传课2nnE(B)E(n1S2)n1E(S2)n1因为B2是总体方差的渐近无偏估计量。当n充分大时，B2可近似视为无偏的。ii1(XX)2n1nS21n12nnnlimE(B)limn百度传课例子存在，X1,X2,…,Xn是X的一个样本。证明不论总体服从什么分布，样本k阶矩都是总体k阶矩的无偏估计量。kE(X)(k1,2,...)nkiXk1ni1A(k1,2,...)证由于样本k阶矩Ak依概率收敛于总体k阶矩μk，所以Ak就是μk的矩估计量例1设总体X的k阶矩百度传课(k1,2,...)niXk1ni1Ak(k1,2,...)无偏性：knini1E(A)E(1niE(Xk)nXk)1i1样本k阶矩Ak是k阶总体矩μk的无偏估计量四川大学徐小湛设样本的线性组合i1是μ的一个估计量（ci是实数），证明：是μ的无偏估计量的充分必要条件是nci1下面介绍一个有用的命题。四川大学命题1设总体X有均值E(X)=μ,X1,X2,…,Xn是来自总体X的样本，百百度传课度传课设总体X有均值E(X)=μ,X1,X2,…,Xn是来自总体X的样本，设样本的线性组合证明：是μ的无偏估计量的充分必要条件是nci1i1证X1,X2,…,Xn相互独立与总体X同分布E(Xi)E(X)(i1,2,...,n)nnni1i1i1E()E(ciXi)ciE(Xi)ci于是ni1E()ci1例2设总体X有E(X)=μ,X1,X2,X3为来自1132X15X210X3212333ˆ1X1X1X3ˆ1X1X1X214263解由命题1，只需检查组合系数之和是否等于1.总体X的样本，问以下三个估计量是否为μ的无偏估计量？课由命题1，只需检查组合系数之和是否等于11132510105231是μ的无偏估计量2123333ˆ1X1X1X112325101X1X3X3123246ˆ1X1X1X是μ的有偏估计量2461212111632111X是μ的无偏估计量例3设总体X服从指数分布，其概率密度为其中未知参数θ0。又设X1,X2,…,Xn是来自总体X的样本，记Z=min{X1,X2,…,Xn}，试证：X和nZ都是θ的无偏估计量。解即参数θ是X的均值X是θ的无偏估计量课设总体X服从指数分布，其概率密度为记Z=min{X1,X2,…,Xn}，试证nZ是θ的无偏估计量。要证明nE(Z)即先求X的分布函数F(x)x≤0时x0时E(nZ)xF(x)f(t)dtf(t)dtF(x)x0dt0x课设总体X服从指数分布，其概率密度为记Z=min{X1,X2,…,Xn}，试证nZ是θ的无偏估计。x1f(x;)e,x0x00,要证明E(nZ)nE(Z)即为求Z的概率密度，先求Z的分布函数FZ(x)P{Zx}1P{Zx}1P{min{X1,...,Xn}x}1P{X1x,...,Xnx}百度传课FZ(x)P{Zx}1P{Zx}1P{min{X1,...,Xn}x}1P{X1x}P{Xnx}1[1P{X1x}][1P{Xnx}]1[1F(x)][1F(x)]同分布1[1F(x)]n1P{X1x,...,Xnx}四川大学徐小湛亦见教材81页nFZ(x)1[1F(x)]fZ(x)FZ(x)1F(x)n[1F(x)]要证明E(nZ)nE(Z)即显然Z服从参数为λ=n/θ的指数分布得故nZ是θ的无偏估计量即四川大学徐小湛E(nZ)百度传课估计量的无偏性容易验证：但是有些参数可能没有无偏估计量，有些参数又可以有多个无偏估计量(例2)，因此估计量的优劣还要结合其他标准来综合判断，如有效性、一致性等等。