概率论与数理统计第五章 大数定律 中心极限定理

第一节大数定律大数定律小结预备知识：依概率收敛定义及性质定义，有若对于任意正数一个常数是是一个随机变量序列，设.,,,21aYYYn1}|{|limaYPnn..,,,21aYaYYYPnn记为依概率收敛于则称序列性质).,(),(),(),(,bagYXgbayxgbYaXPnnPnPn连续，则点在又设函数，设请注意:.10可能性很小生的的发生，而只是说他发并不排除事件；的概率很大，接近于充分大时，事件当，，意味着对任意给定的依概率收敛于XXXXnaXnnn.定性弱些，它具有某种不确中的普通意义下的收敛依概率收敛比高等数学大量随机试验中大数定律的客观背景大量抛掷硬币正面出现频率字母使用频率生产过程中的废品率……有稳定性测量值的算术平均值具某一常数事件发生的频率稳定于n个随机变量的算术平均11XnnkkX大数定律讲述的是：期望）的事情。时依概率收敛（收敛于当n大数定律定理1（切比雪夫定理的特殊情况）切比雪夫则对任意的ε0，有学期望和方差：独立，且具有相同的数相互，，设随机变量,,21nXXX212(),()(,,).kkEXDXk1}|1{|lim1niinXnP}|{|limXPn11XnnkkX做前n个随机变量的算术平均　　说明.,2,1XE1X,211有的稳定性），这种接近说明其具（）（接近数学期望的算术平均随机变量定理以数学形式证明了、nkXnXXkniin.1}|1{|11于时，这个事件的概率趋当是指一个随机事件，、定理中nXnnii.常数收敛的意义下逼近某一算术平均值是依概率这种稳定性的含义说明证nkkXnE11由于nn1nkkXEn1)(1nkkXnD11nkkXDn12)(1nnn2221由切比雪夫不等式22111nXnPnkk上式中令n得1}|1{|lim1niinXnP的另一种叙述形式定理1.1),2,1()(,)(,,,1221PnkkkknXXnXkXDXEXXX，即依概率收敛于，则序列差：有相同的数学期望和方相互独立，且具，设随机变量伯努利设nA是n重贝努里试验中事件A发生的次数，p是事件A发生的概率，nnA是事件A发生的频率.是否具有稳定性呢？替事件的概率，频率事件发生的频率能否代设nA是n次独立重复试验中事件A发生的次数，p是事件A在每次试验中发生的概率，则对于任意正数ε0，有定理2（伯努里大数定律）1}|{|limpnnPAn或伯努利0}|{|limpnnPAn证明nAAXXXnpnbn21),,(~由此可表示为因为),1()()(.10),3,2,1(ppXDpXEpnkXkkk，因而分布）以为参数的（相互独立，且都服从以其中即得由定理11}|)(1{|lim21pXXXnPnn}|{|limpnnPAn证毕注贝努里大数定律表明，当重复试验次数n充分大时，事件A发生的频率nA/n与事件A的概率p有较大偏差的概率很小.0}|{|limpnnPAn或.替事件的概率事件发生的频率可以代下面给出的独立同分布下的大数定律，不要求随机变量的方差存在.设随机变量序列X1,X2,…相互独立，服从同一分布，具有数学期E(Xi)=μ,i=1,2,…，则对于任意正数ε，有定理3（辛钦大数定律）1}|1{|lim1niinXnP辛钦1、辛钦大数定律为寻找随机变量的期望值提供了一条实际可行的途径.注2、伯努利大数定律是辛钦定理的特殊情况.3、辛钦定理具有广泛的适用性.要估计某地区的平均亩产量，要收割某些有代表性块，例如n块地.计算其平均亩产量，则当n较大时，可用它作为整个地区平均亩产量的一个估计.例在一个罐子中,装有10个编号为0-9的同样的球，从罐中有放回地抽取若干次，每次抽一个，并记下号码.否则次取到号码第001kXk设，k=1,2,…问对序列{Xk}能否应用大数定律？nkknXnP11}|1.01{|lim即对任意的ε0,解:,9.01.001~kXk=1,2,…E(Xk)=0.1,诸Xk独立同分布，且期望存在，故能使用大数定律.小结大数定律大数定律以严格的数学形式表达了随机现象最根本的性质之一：平均结果的稳定性2)()(kkXDXE)(kXE),(~pnbnA大数定律伯努利1}|{|limpnnPAn大数定律切比雪夫1}|1{|lim1niinXnP大数定律辛钦1}|1{|lim1niinXnP第二节中心极限定理中心极限定理例题小结中心极限定理的客观背景在实际问题中许多随机变量是由相互独立随机因素的综合（或和)影响所形成的.例如：炮弹射击的落点与目标的偏差，就受着许多随机因素（如瞄准，空气阻力，炮弹或炮身结构等）综合影响的.每个随机因素的对弹着点（随机变量和）所起的作用都是很小的.那么弹着点服从怎样分布哪？如果一个随机变量是由大量相互独立的随机因素的综合影响所造成，而每一个别因素对这种综合影响中所起的作用不大.则这种随机变量一般都服从或近似服从正态分布.自从高斯指出测量误差服从正态分布之后，人们发现，正态分布在自然界中极为常见.现在我们就来研究独立随机变量之和所特有的规律性问题.高斯当n无限增大时，这个和的极限分布是什么呢？由于无穷个随机变量之和可能趋于∞，故我们不研究n个随机变量之和本身而考虑它的标准化的随机变量.nkknknkkknXDXEXY111)()(正态分布的极限分布是否为标准讨论nY在概率论中，习惯于把和的分布收敛于正态分布这一类定理都叫做中心极限定理.nkkkXnkX1),1(的和即考虑随机变量nnkkYX的标准化1一、中心极限定理xnnXPxFniinnn1lim)(lim定理1（独立同分布下的中心极限定理），则随机变量之和方差布，且具有数学期望和相互独立，服从同一分设随机变量),2,1()(,)(:,,,221kXDXEXXXkknnnXYnkkn1满足对于任意的分布函数xxFn)(的标准化变量nkkX1x-2t-dte212)(x注).1,0(~;),(~,11211NnnXnnNXnXnkknkknkk近似地近似地有和与其标准化变量分别充分大时，随机变量之当布的随机变量之和、定理表明，独立同分)1,0(~),(~22NnXnNX近似地近似地或为定理的另一种形式可写、独立同分布中心极限nkkXnX11其中3、虽然在一般情况下，我们很难求出的分布的确切形式，但当n很大时，可以求出近似分布.nkkX1定理2（李雅普诺夫(Liapounov)定理)),2,1(,)(,)(,,,221kXDXEXXXkkkkn有数学期望和方差：相互独立，它们具设随机变量nkknB122记nkkknXEBn12201时，，使得当若存在正数的标准化变量：则随机变量之和nkkX1(独立不一定同分布)nnkknkknkknkknkknBXXDXEXZ11111)()(，满足对于任意的分布函数xxFn)(xBXPxFnnknkkknnn11lim)(limx-2t-dte212)(x请注意:分别近似服从很大时在及其标准化变量、定理中随机变量之和,11nZXnnkk)1,0(~;),(~211NZBNXnnnkknkk近似地近似地.21个基本原因中所占的重要地位的一率论是为什么正态分布在概似服从正态分布，这就很大时，就近，当和定理条件，随即变量之要满足无论服从什么分布，只、随机变量nXXnkkk定理3(棣莫佛－拉普拉斯（DeLaplace定理）})1({limxpnpnpPnn设随机变量(n=1,2,‥‥)服从参数n,p(0p1)的二项分布，则对任意x，有ndtext2221)(x证之和，分布的诸随机变量服从同一个相互独立、分解成为由第四章知识知可将nnXXXn,,)10(21nkknX1即有1,0,)1(),,2,1(1ippiXPnkXiikk的分布律为其中(独立同分布,二项分布)定理表明，当n很大，0p1是一个定值时（或者说，np(1-p)也不太小时），二项变量的分布近似正态分布N(np,np(1-p)).n，由于),,2,1)1()(,)(nkppXDpXEkk得由定理4})1({limxpnpnpPnndtext2221)(x})1({lim1xpnpnpXPnkkn))1(,(~pnpnpNn近似地即下面演示不难看到中心极限定理的客观背景例:20个0-1分布的和的分布X1~f(x)X1+X2~g(x)X1+X2+X3~h(x)几个(0,1)上均匀分布的和的分布0123xfgh二、例题例1.105.)10,0(),,2,1(201的近似值，求记上服从均匀分布机变量，且都在区间设它们是相互独立的随个噪声电压一加法器同时收到VPVVnkVnkkk)2012100,520(V1).20,2,1(12100)(,5)(~201NVkVDVEkkkk近似地知，由定理易知于是20121005201052012100520105VpVP387.02012100520Vp解387.020121005201Vp348.0)387.0(1348.0105VP即有例2.(供电问题)某车间有200台车床,在生产期间由于需要检修、调换刀具、变换位置及调换工件等常需停车.设开工率为0.6,并设每台车床的工作是独立的，且在开工时需电力1千瓦.问应供应多少瓦电力就能以99.9%的概率保证该车间不会因供电不足而影响生产?（200台车床是否开工=200次独立重复试验）用X表示在某时刻工作着的车床数，解：对每台车床的观察作为一次试验，每次试验是观察该台车床在某时刻是否工作,工作的概率0.6,共进行200次独立重复试验.依题意，X~B(200,0.6),现在的问题是：P(X≤N)≥0.999的最小的N.求满足设需N台车床工作，（由于每台车床在开工时需电力1千瓦，N台工作所需电力即N千瓦.）由德莫佛-拉普拉斯极限定理)1(pnpnpX近似N(0,1),于是P(X≤N)=P(0≤X≤N)这里np=120,np(1-p)=48)48120()48120(N由3σ准则，此项为0。)48120N(999.0)48120(N由查正态分布函数表得999.0)1.3(从中解得N≥141.5,即所求N=142.也就是说,应供应142千瓦电力就能以99.9%的概率保证该车间不会因供电不足而影响生产.48120N≥3.1,故例3.400.15.08.005.021独立，且服从同一分布会议的家长数相互名学生，设各学生参加共有若学校、、分别为家长来参加会议的概率名名家长、个学生无家长、是一个随机变量，设一参加家长会的家长人数对于一个学生而言，来.340124501的概率生数不多名家长来参加会议的学）求有（的概率；超过）求参加会议的家长数（X解15.08.005.0210)400,2,1()1(kkkkpXXkkX的