第五章大数定律和中心极限定理

第五章大数定律与中心极限定理18January2020第1页理学院数学系概率论与数理统计§5.1大数定律§5.2中心极限定理第五章大数定律与中心极限定理第五章大数定律与中心极限定理18January2020第2页理学院数学系概率论与数理统计§5.1大数定律弱大数定律：切比雪夫弱大数定律辛钦弱大数定律强大数定律：科尔莫哥洛夫强大数定律博雷尔强大数定律讨论“概率是频率的稳定值”的确切含义：伯努利大数定律和博雷尔强大数定律伯努利大数定律弱大数定律：切比雪夫弱大数定律辛钦弱大数定律强大数定律：科尔莫哥洛夫强大数定律博雷尔强大数定律讨论“概率是频率的稳定值”的确切含义：伯努利大数定律和博雷尔强大数定律伯努利大数定律第五章大数定律与中心极限定理18January2020第3页理学院数学系概率论与数理统计从抛硬币说起回顾第一章概率的统计定义，我们是用事件的频率近似代替这个事件的概率。德.摩根试验者抛掷次数n出现正面的频率204810610.518蒲丰404020480.5069皮尔逊1200060190.5016皮尔逊24000120120.5005维尼0.49981499430000/mn出现正面的次数m第五章大数定律与中心极限定理18January2020第4页理学院数学系概率论与数理统计抛硬币实验的数学意义=00011lim02nnnnvPn我们用表示抛硬币次中出现正面的次数，是任意小的一个正数，譬如.，则1212频率不一定恰好就是，有细微偏差，但是与的偏差超过的可能性趋于零。第五章大数定律与中心极限定理18January2020第5页理学院数学系概率论与数理统计伯努利大数定律：频率“收敛于”概率对一般的伯努利实验（p不一定是二分之一）有：设vn是n重伯努利试验中事件A出现的次数，每次试验中P(A)=p,则对任意的0，有lim0nnvPpn注：这种极限收敛形式在概率论中，我们称为依概率收敛，极限符号在概率符号之前。第五章大数定律与中心极限定理18January2020第6页理学院数学系概率论与数理统计意义：随着n的增大，依概率意义讲，频率越来越接近概率p，而不接近p的可能性越来越小。不能说：，因为不管n有多大，仍可能有pn偏离p的情形出现(虽然这些例外情形出现的概率趋于0)。limnnnpvnvn第五章大数定律与中心极限定理18January2020第7页理学院数学系概率论与数理统计伯努利大数定律可以说是最早发现，也是最基本的大数定律，以它为基础人们又发展起来其它的大数定律。大家很容易理解抛硬币出现正面的概率是二分之一，但是日常生活中，很多问题里事件的概率不能直观感受到或者预先知道，这时我们就利用伯努利大数定律，以频率来代替概率。发芽率发芽粒数种子粒数2510701303107001500200030002496011628263913391806271510.80.90.8570.8920.9100.9130.8930.9030.9050.9p我们可以大胆认为：第五章大数定律与中心极限定理18January2020第8页理学院数学系概率论与数理统计除了伯努利实验，对一般的事件有没有类似的大数定律？某学校有10000个学生，平均身高为a；1、随意观察1个学生的身高X1，则X1与a可能相差较大。2、随意观察10个学生的身高X1,X2,…,X10，则10个数据的均值(X1+X2+…+X10)/10与a较接近；3、随意观察100个学生的身高X1,X2,…,X100，则100个数据的均值(X1+X2+…+X100)/100与a更接近；4、随意观察1000个学生的身高X1,X2,…,X1000，则我们可以有很大把握认为这些数据的均值(X1+X2+…+Xn)/n与a充分接近.第五章大数定律与中心极限定理18January2020第9页理学院数学系概率论与数理统计对伯努利大数定律进行演绎121211(1,).lim0,[],[][]lim0iinnninnnnpXiXBpXXXnXXXPpnEXpXXEXEXPnn在次伯努利试验中，以表示事件成功概率，以表示第次实验成功次数，则而就表示次试验中成功次数.根据伯努利大数定律有注意到进一步改写第五章大数定律与中心极限定理18January2020第10页理学院数学系概率论与数理统计切比雪夫弱大数定律1212,,[],1,2,,0lim0.innXXVarXCiXXXPn设为独立随机变量序列，具有共同的数学期望，并且则对任意有注：这里的随机变量不要求是同分布的，但是要求它们的方差有一致的上界。第五章大数定律与中心极限定理18January2020第11页理学院数学系概率论与数理统计辛钦弱大数定律注：这里的随机变量序列是同分布的，但不要求它们的方差存在或有一致上界。1212,,0lim0.nnXXXXXPn设为独立同分布的随机变量序列，具有有限的数学期望，则对任意有第五章大数定律与中心极限定理18January2020第12页理学院数学系概率论与数理统计说明：(1)切比雪夫弱大数定律和辛钦弱大数定律的条件是不同的，但它们都可以推导出伯努利大数定律.(2)以下我们仅就切比雪夫弱大数定律给出证明.切比雪夫弱大数定律里随机变量序列不要求是同分布的，但是要求它们的方差有一致的上界。辛钦弱大数定律里随机变量序列是同分布的，但不要求它们的方差存在或有一致上界。第五章大数定律与中心极限定理18January2020第13页理学院数学系概率论与数理统计第五章大数定律与中心极限定理18January2020第14页理学院数学系概率论与数理统计切比雪夫弱大数定律的证明12121212122,,[],0.ninninXXVarXXXXXXXCEVarnnnnXXXCPnnn证明：由，的独立性有所以，由（5.1.4）有证毕.第五章大数定律与中心极限定理18January2020第15页理学院数学系概率论与数理统计5.1.3强大数定律前面讲的一些大数定律都是弱大数定律，关于随机变量平均和的刻画都是用依概率收敛的形式表达，后来人们证明了更强的收敛形式，从而得到了相应的强大数定律，这里的强弱之分就在于极限收敛形式的强弱之分。大数定律的命名：都可以数学严格证明，为什么不叫做定理？下面我们不加证明的给出几个强大数定律。第五章大数定律与中心极限定理18January2020第16页理学院数学系概率论与数理统计1212211,,[],lim=1.nnnnXXVarXXXXPnn、设为独立随机变量序列，具有共同数学期望，且则柯尔莫戈洛夫强大数定律1和2：12122,,lim1.nnXXXXXPn、设为独立同分布随机变量序列，数学期望有限，则lim1nnnnpPpn记为重伯努利试验中成功的次数，为一博次雷尔强大实验成功的概率：则数定律，注：上面的极限收敛形式称为以概率1收敛，它可以推出依概率收敛，所以强大数定律可以推出对应的弱大数定律。第五章大数定律与中心极限定理18January2020第17页理学院数学系概率论与数理统计§5.2中心极限定理讨论独立随机变量和的极限分布,本节指出极限分布为正态分布.内容提要：设{Xn}为独立随机变量序列，记其和为1niinYX第五章大数定律与中心极限定理18January2020第18页理学院数学系概率论与数理统计独立同分布的中心极限定理定理5.2.1林德伯格—莱维中心极限定理设{Xn}为独立同分布随机变量序列，数学期望为,方差为20，则{Xn}服从中心极限定理，即212lim()1d2nnuxkkPxXnxeun第五章大数定律与中心极限定理18January2020第19页理学院数学系概率论与数理统计林德伯格—莱维中心极限定理的推论1/1~(0,1)niinXnN1~(0,1)niinnXN/~(0,1)nXN2~(,).nXNn当很大时，可以近似认为第五章大数定律与中心极限定理18January2020第20页理学院数学系概率论与数理统计1.中心极限定理有很多，本书中只给出了这类定理中最简单，也是最重要的一种情况，即独立同分布的情形：不论随机变量服从何种分布，只要它们是独立同分布的，则它们和的极限分布总是正态分布，这一事实增加了正态分布的重要性。2.中心极限定理比大数定律更为精细的刻画了独立同分布随机变量序列和的极限，它指出了分布特性。特别地，中心极限定理蕴含了大数定律。第五章大数定律与中心极限定理18January2020第21页理学院数学系概率论与数理统计例1每袋味精的净重为随机变量，平均重量为100克，标准差为10克.一箱内装200袋味精，求一箱味精的净重大于20500克的概率?解:设箱中第i袋味精的净重为Xi,则Xi独立同分布，且E[Xi]=100，Var[Xi]=100，由中心极限定理得，所求概率为：200120500200100205001200100iiPX1(3.54)=0.0002故一箱味精的净重大于20500克的概率为0.0002.(很小)第五章大数定律与中心极限定理18January2020第22页理学院数学系概率论与数理统计例2设X为一次射击中命中的环数，其分布列为求100次射击中命中环数在900环到930环之间的概率.XP1098760.80.10.050.020.03解:设Xi为第i次射击命中的环数，则Xi独立同分布，且E[Xi]=9.62，Var[Xi]=0.82，故10019301009.629001009.629009301000.821000.82iiPX(3.53)(6.85)=0.00021第五章大数定律与中心极限定理18January2020第23页理学院数学系概率论与数理统计林德伯格—莱维定理的特殊情形：棣莫弗—拉普拉斯定理在林德伯格—莱维定理中，若对任意k有Xk～B(1,p)，则E[Xk]=p,Var[Xk]=p(1-p),从而有如下定理：2121221(),,(1,),,,11limd(1)2unxknkxXXBpXXPXnpxeunpp设为独立同分布的随机变量序列，同服从则服从中心极限定理棣莫弗-拉普拉斯定理即:，注：该定理是历史上最早的中心极限定理，1716年棣莫弗证明了的情形，后来拉普拉斯把它推广到一般p的情形。12p第五章大数定律与中心极限定理18January2020第24页理学院数学系概率论与数理统计棣莫弗—拉普拉斯定理的另一种叙述形式：1212,,(1,),,(,).knnnXXXBpYXXXYBnp若独立同分布，且记则二项分布的正态近似：设Yn为服从二项分布B(n,p)的随机变量，则当n充分大时，有(1)lim()nnYnpxnppPx第五章大数定律与中心极限定理18January2020第25页理学院数学系概率论与数理统计二项分布是离散分布，而正态分布是连续分布，所以用正态分布作为二项分布的近似时，一般可作如下修正：注意点(1)1212210.50.50.50.5(1)(1)nnPkYkPkYkknpknpnppnpp