安庆师范大学

§5.1特征函数§5.3随机变量序列的两种收敛性§5.2大数定律第5章大数定律与中心极限定律§5.4中心极限定理§5.1特征函数5.1.1特征函数的定义定义5.1.1设ξ为实随机变量，称（5.1.1）为ξ的特征函数(Characteristicfunction)，这里是任意实数.由于,因此对任意，对一切总存在，即(5.1.1)式都有意义，也就是说任意随机变量的特征函数总存在.()=()itXtEet||1itXeX(,),()itXtEe特别地，若为离散型，,则其特征函数为(5.1.2)若是连续型，其密度，则(5.1.3)它就是函数的傅里叶变换.X(),1,2,kkpPXxk1(),.kitxkkteptXfx()().itxtefxdx5.1.2特征函数的性质性质5.1.1性质5.1.2性质5.1.3若其中是常数，则有性质5.1.4设独立，则有即：独立随机变量和的特征函数为特征函数的乘积.()(0)1t()()tt,YaXb,ab()()ibtYXteat,XY()()().XYXYttt性质5.1.5若存在，则的特征函数存在阶导数，且对于任意的，有也就是说在上述条件下，的阶矩可以通过特征函数在0处的阶导数表示出来.()(0)kkkEXi(0)().kkkiEX()lEXX()tl1klXkk例5.1.1常见分布的特征函数(1)单点分布：的特征函数.(2)分布：的特征函数为(3)泊松分布：的特征函数为()1PXc()itcte()ittpeq(1),(0),1PXpPXqpq01()P(),0,1,2,!kPXkekk(1)0().!itkiktekteeek（4）均匀分布的特征函数为（5）标准正态分布的特征函数为证明从略.（6）指数分布的特征函数为1()()().()ibtiatbitxitxaeettefxdxedxbaitba(0,1)N(,)Uab()Exp212().tte1()1.itt证明：（7）二项分布的特征函数为：0()()itxitxxtefxdxeedx00cos()sin()xxtxedxitxedx222211.tititt(,)bnp()().itntpeq证明：设，则由前一章知：，其中相互独立，且都服从分布.由特征函数性质5.1.4知由本例（4）可知：，于是有（8）正态分布的特征函数为iX(1,)bp(,)Ybnp011niiYX1()()inYXitt()().itnYtpeq()iitXtpeq2212().ittte2(,)N证明：设则有.则由（5.1.12）知注意到，利用（5.1.5）即可得证.例5.1.2试用特征函数的方法求正态分布的期望与方差.解：因为正态分布的特征函数及其一、二阶导数为于是由（5.1.8）知从而有(0,1)YXN2(,),YNYX212().tXte2(,)N2(,)N2212();ittte221'2'2()();(0);itttitei'22222(0)(),2.iEXEXii222()()().DXEXEX定理5.1.1（唯一性定理）随机变量的分布由其特征函数唯一决定.证明需要较多的数学知识，在此从略.特征函数的定义及唯一性定理表明：分布函数与特征函数是一一对应的.在概率论中，独立随机变量和的问题占有“中心”地位，利用卷积公式去处理独立随机变量和的问题相当复杂，而引人特征函数可以很方便地应用函数乘法得到独立随机变量和的特征函数.请看如下例题.例5.1.3试用特征函数的方法证明二项分布的可加性：设，且独立，则证明：因为，的特征函数分别为又独立，所以有这正是的特征函数，故由唯一性定理知采用同样的方法可以证明泊松分布及正态分布的可加性.12(,).XYbnnp,XY12(,),(,)XbnpYbnp,XY12()(),()().nnititXYtpeqtpeq,XY1212()()()().nnnnitititXYtpeqpeqpeq12(,)bnnp12(,).XYbnnp§5.2大数定律概率论是研究随机现象的统计规律的科学，而这种统计规律性往往需要在相同的条件下进行大量的重复试验才能体现出来.在第一章中我们已经指出，人们经过长期实践认识到，虽然个别随机事件在某次试验中可能发生也可能不发生，但是在大量重复试验中却呈现明显的规律性，即随着试验次数的增大，一个随机事件发生的频率在某一固定值附近摆动.这就是所谓的频率具有稳定性，本章通过大数定律从理论上给予说明。在引入大数定律之前，我们先证一个重要的不等式——契比雪夫（Chebyshev）不等式.定理5.2.1设随机变量X存在有限方差，则有对任意(5.2.1)证明下面我们以连续性随机变量为例证明该不等式.设X的概率密度为f(x),则有请读者自己证明X是离散型随机变量的情况.22()()(){|()|}=()d()dxEXxEXxEXPXEXfxxfxx2221()()()d.DXxEXfxx2(){|()|}DXPXEX5.2.1切比雪夫不等式()DX0契比雪夫不等式也可表示成.（5.2.2）在概率论中，事件“”称为大偏差，其概率称为大偏差发生的概率.显然契比雪夫不等式给出了大偏差发生的概率上界，这个上界与方差成正比，方差愈大上界也愈大.2(){|()|}1DXPXEX|()|XEX(|()|)PXEX例5.2.1已知某厂产品一周的产量是均值为50的随机变量，若已知周产量的方差为25，求这一周产量在区间（40,60）内的可能性至少有多大？解用X表示周产量，则由契比雪夫不等式可得可见这一周产量在（40,60）区间内的可能性至少为0.75.2()1{|50|10}0.25,104DXPX()50.EX{|50|10}1{|50|10}10.250.75.PXPX例5.2.2设电站供电网有10000盏电灯，夜晚每一盏灯开灯的概率都是0.7，而假定开、关时间彼此独立，试用契比雪夫不等式估计夜晚同时开着的灯数在6800与7200之间的概率.解设X表示在夜晚同时开着的灯的数目，它服从参数为n=10000,p=0.7的二项分布.故E(X)=np=10000×0.7=7000,D(X)=npq=10000×0.7×0.3=2100,P{6800X7200}=P{|X-7000|200}≥1-≈0.95.可见，虽然有10000盏灯，但是只要有供应7200盏灯的电力就能够以相当大的概率保证够用.事实上，契比雪夫不等式的估计只说明概率大于0.95，后面我们将具体求出这个概率约为0.99999.可见契比雪夫不等式在理论上具有重大意义，但估计的精确度不高.长期以来，人们发现随机变量序列的算术平均值具有某种稳定性.习惯上，称研究这种稳定性规律的定理为大数定律.它主要解决的问题是：在什么样的条件下，一个随机变量序列的算术平均值收敛到所希望的期望值.本节只考虑几个常见的大数定律.切比雪夫不等式作为一个理论工具，在大数定律证明中，可使证明非常简洁.5.2.2大数定律定理5.2.2（契比雪夫大数定律）设是两两不相关的随机变量序列，各有数学期望及方差，并且对于所有都有,（C是与i无关的常数），则服从大数定律，即对任给，有（5.2.1）证明：因两两不相关，所以又因12((DXDX),),((),12EXEX),12,XX12,XXiDXC01111()1limnniiniiPXEXnn12,XX21111()1nniiiiCPXEXnnn由(5.2.2)式，对于任意ε0，有但是任何事件的概率都不超过1，即因此1111(),nniiiiEXEXnn21111()1nniiiiCPXEXnnn211111()1nniiiiCPXEXnnn1111()1limnniiniiPXEXnn契比雪夫大数定律说明：在定理的条件下，当n充分大时，n个独立随机变量的平均数这个随机变量的离散程度是很小的.这意味，经过算术平均以后得到的随机变量将比较密的聚集在它的数学期望的附近，它与数学期望之差依概率收敛到0.1niiXn1()niiEXn定理5.2.3（贝努里（Bernoulli）大数定律）设是n次独立重复试验中事件A发生的次数.p是事件A在每次试验中发生的概率，则对于任意正数ε0，有（5.2.3）其等价形式为（5.2.4）证明引入随机变量显然Alim1AnPpnlim0AnPpn0,1,2,,1,kkAxkkA若在第次试验中不发生若在第次试验中发生1nAkkX由于只依赖于第k次试验，而各次试验是独立的.于是是相互独立的；又由于，故有由定理5.2.2有即贝努里大数定律说明：随着试验次数的增大，事件A发生的频率与事件A发生的概率p的偏差大于预先给定的精度的可能性愈来愈小，小到可以忽略不计，这就是频率稳定于概率的含义.(1,)kXbpkx12,,xx (),()(1),1,2,...kkEXpDXppk111111()1limnnniiinkikPXEXPXpnnn1limAnPpn因此，本定律从理论上证明了大量重复独立试验中，事件A发生的频率具有稳定性，正因为这种稳定性，概率的概念才有实际意义.贝努里大数定律还提供了通过试验来确定事件的概率的方法，即既然频率与概率p有较大偏差的可能性很小，于是我们就可以通过做试验确定某事件发生的频率，并把它作为相应概率的估计.因此，在实际应用中，如果试验的次数很大时，就可以用事件发生的频率代替事件发生的概率.注意到在契比雪夫大数定律的证明中，只要有则序列就服从大数定律.这个条件（5.2.4）被称为马尔可夫条件。211()0niiDXn定理5.2.4（马尔可夫大数定律）对随机变量序列若（5.2.5）成立，则序列服从大数定律，即对任意的，（5.2.1）成立.马尔可夫大数定律的重要性在于：对随机变量序列已经没有任何同分布、独立性、不相关性的假定.契比雪夫大数定律显然可以由马尔可夫大数定律推出.例5.2.3设两两独立的随机变量序列的分布列分别为：试证明随机变量序列满足大数定律.证明容易得到：又{}nX12,,,XX12,,,XX()0,()ln.nnEXDXn011(),(),22nnPXnPXn12,,,XX满足马尔可夫条件，所以随机变量序列满足大数定律.我们知道，一个随机变量的方差存在，则其数学期望一定存在；反之不成立.上述的几个大数定律要求随机变量的方差存在.但在随机变量服从同一分布的场合，并不需要这一要求，以下辛钦大数定律表明了这一点.定理5.2.5（辛钦大数定律）设随机变量相互独立，服从同一分布，且具有数学期望，则序列服从大数定律，即对于任意正数ε，有.（5.2.6）2211lnln()0niinnnDXnnn12,,,,nXXX1,2,,kXkn（）12,,,,nXXXE((1,2,)kXk)111limninkPXn