概率论基础(复旦版)李贤平第四章ppt

吴鹏飞统稿江西师范大学数信学院大数定理与中心极限定理的应用第四章大数定理与中心极限定理概率论两个常用大数定理两个常用的中心极限定理大数定理一、大数定律的客观背景大量随机试验中事件发生的频率稳定于某一常数测量值的算术平均值具有稳定性大量抛掷硬币正面出现频率生产过程中的废品率文章中字母使用频率Thelawoflargenumbers二、两个常用的大数定理随机变量序列依概率收敛Def1212,,,,lim{||}1,,,,nnnnPnXXXaPXaXXXaXa设是一个随机变量序列，是一个常数，若对于任意正数，有则称序列依概率收敛于，记为随机变量序列服从大数定律11011lim()1nnniiniinDefXPXEXnnX设有一随机变量序列，如果对于任意有成立，则称随机变量序列服从大数定律。大数定理Chebysherv定理1(Chebysherv大数定理)1211,,,,()()()011lim()1niiinniiniiXXXEXDXMiDXMPXEXnn设是独立的随机变量序列，每个随机变量的数学期望与存在，且存在正实数，使得对任意有，则对任意正实数，恒有1121111()()11()()nniiiinniiiiEXEXnnMDXDXnnn证因为明：1221111Chebysherv1()111()1111lim()1ninniiiiinniiniiDXMnPXEXnnnPXEXnn由不等式，对于任意的正实数有所以Khintchin推论：1221,,,,1lim1nniniXXXPXn设是独立同分布随机变量序列，且数学期望为，方差，则对于任意的正实数有11nPiiXn这个定理表明数定律中要判据。机变量序列是否服从大断随例。马尔科夫条件是判马尔科夫大数定律的特大数定律是然，称为马尔科夫条件。显数定律，条件该定律称为马尔科夫大，有则对于任意，满足条件推广：对随机变量序列ChebyshervXDnXEnXnPXDnXnninniiniinnninn0)(1.1)(11lim00)(1121112例4.1021122111222222112(1/)~(1/)1,2,()1,2,11()[()2(,)]11[2][2(1)]1nnnnnnniiiiiiinniiXeXXenDXnDXDXCovXXnnnnnnn设是同分布于的随机变量序列且序列中每一项仅与相邻两项相关，而与其项不相关。判定该随机变量序列是否服从大数定律？解：由于，从而有于是有22211()[2(1)]0nniiDXnnn定理2(Bernoulli大数定理)Bernoullilim1nnnnApAPpn设是次独立重复试验中事件出现的次数，是事件在每次试验中发生的概率，则对于任意正实数，恒有121A;0A1,2,,,,,()1()1,2,,4lim1iniinniXiinXXXEXpDXpqinChebyshervPpn第次试验出现事件证明：令第次试验不出现事件于是有相互独立，且由大数定理有三、大数定理的应用Khintchin大数定理应用Bernoulli大数定理应用11()nniiXnnXEXn充分大这一定理表明：同一量在相同条件下观测次，当观测次数充分大时，“观测值得算术平均值接近期望值”是一个大概率事件，即下式以大概率成立：()nAnnAfPA充分大这一定理表明：在相同条件下重复同一随机试验次，当试验次数充分大时，“事件发生的频率接近其概率”是一个大概率事件，即下式以大概率成立：寻找随机事件概率提供了一条实际可行的途径寻找随机变量的期望值提供了一条实际可行的途径随机变量序列的两种收敛一、随机变量序列以概率收敛)0(//)3()2()1(,,.2.1lim0.1bbaYXabYXbaYXbYaXbaYXXXXXXXPXXDefPnnPnnPnnPnPnnnPnnnnn即成立四则运算，则有果是两个实数。如是两个随机变量序列，，定理：设依概率收敛的运算律，记作率收敛于依概，则称，有果对于任意为一个随机变量，如为一个随机变量序列，设依概率收敛baYXbaYXPbYPaXPbaYXPbYPaXPbYaXbYaXbaYXbYaXbaYXbaYXPnnnnnnnnnnnnnPnPnnnnnnnnnPnn即有所以有，则有而由从而对于任意因为证明：仅证明0)()(lim2/2/)()(02/lim02/lim,2/2/)()(0)()(二、随机变量序列以分布收敛cXcXcXXXXXXXXXxFxFxxFxFXxFXDefLnPnLnPnnLnnnnnn为常数，则设定理，则有如果是两个随机变量序列，设定理两种收敛之间的关系，记作收敛于依分布，则称，有的任意连续点，如果对于布函数为为一个随机变量，其分，其对应的分布函数列为为一个随机变量序列，设依分布收敛2.1.2.)()(lim)()()(.10)()(,,)0()(lim)(lim)0()()()(;),(,),(),(,,,,1证明定理2121nnPnnnnnnnnnnnWnLnnnxxXXPXXxxXXPxFxFxxXXxXxXxXxXxXxXxxxFxFxFxFxxFxFXXxFXxFxFxFXXX知由从而有，则为此，令，有意的所以只要证明：对于任，于是有的分布函数为相应的分布函数依次为：设)()(lim0)()(,,)(lim)(lim)0()(lim)(xFxFxxXXPXXxxXXPxFxFxxXXxXxXxXxXxXxXxxxFxFxFxxxFxFnnnnPnnnnnnnnnxxnn所以又有知由从而有，同理有在令求极限得对上式关于所以有cxcxxFcnxFXxFxFxFxFxFxFxFxFxFXFxFxFxxnnnnnnnnnnnnxxnn10)(,2,1)(12)()(lim)()0()(lim)(lim)0()(lim)(lim)0()(lim)(lim的分布函数为，的分布函数为设性。已证明，下面证明充分的证明：必要性定理定理的连续点便有在所以而由极限理论知求极限得对上式关于0lim)()()(2)()2(1220cXPxFxFxFcccFcFcXPcXPcXPcXcXcXcXcXnnWnnnnnnnnnnn所以的连续点，且都是，由于从而有有于是，对于任意的成了函数列收敛问题。敛问题转化随机变量序列依分布收收敛的有效工具。它把依分布一个判断随机变量序列这个定理给人们提供了课本。有兴趣的同学可以阅读长，这里就不给出了。达比冗数学分析的知识，但表这个定理的证明只涉及。收敛于特征函数为征函数列为的充要条件为特。则，特征函数为数为布函为一个随机变量，其分，对应的特征函数列为，对应的分布函数列为为一个随机变量序列，设依分布收敛的判定)()()()()()(.3ttXXtxFXtxFXnLnnnnnnontnitetentetgnnXetXnPXdtexnnXPnPXntitnienntninnennnnxtnnnntiit)1(!21Torlay)()()()(~21lim)(~11.42)1()1(22，有展开，对于任意的有函数的的特征函数为从而的特征函数为，所以证明：因为，证明：设随机变量例题xtnnttnnnntidtexnnXPNeetgtnnottnien2222222221lim)1,0()(lim2)1(!2)1(定理知的特征函数，所以，由是而于是有中心极限定理Thecentrallimittheory一、中心极限定律的客观背景在实际问题中许多随机变量是由相互独立随机因素的综合（或和)影响所形成。例如：炮弹射击的落点与目标的偏差，就受着许多随机因素（如瞄准，空气阻力，炮弹或炮身结构等）综合影响的。每个随机因素的对弹着点（随机变量和）所起的作用都是很小的。那么弹着点服从怎样分布呢？定理3(Lindeberg-Levy中心极限定理)212212,,,,:()()(1,2,)1lim2niinxtiinXXXEXDXixXnPxedtn设随机变量相互独立，服从同一分布，且具有数学期望和方差，，则对于任意的实数，有中心极限定理21212nxtiniXnPxedtn在定理条件下，总有理解：1121~(0,1)~(,)niinininniiXnnXnNnXNnn即随机变量序列依分布收敛于标准正态分布这就表明由正态分布的性质1221,,,~(,)nniinXXXXNnn近似这就是说：当充分大时，只要独立同分布，无论他们服从什么分布，一定有即:一个由许多独立同分布随机变量作用形成的随机变量，其概率分布一定是正态分布。)(21)(!2)0()0()0()()()0()())0(()0(0)0(0)()0()()()()(2222222211tottotttTorlaytXDXEinttnXnnXtXnnnnniiniin展开为而知知又由于其特征函数为，则由于的特征函数为证明：设)1,0(~21lim)(211lim)(lim)(211)(1212222222NnnXdtexnnXPetotnttotnntnniixtniintnnnn即由定理知所以定理4(DeMoivre-Laplace中心极限定理)22~(,)1lim2xtnXBnpxXnpPxedtnpq设随机变量，则对于任意的实数，有21212~(,),,,()()Lindeberg-Levy1lim2nniixtnXBnpBernoulliXXXpXXEXnpDXnpqXnpPxedtnpq因为，由大数定理证明有为独立同分布于参数为的两点分布的随机变量，使得.易知由中心知：极限定理证明~(,).