概率论与数理统计主要内容小结

概率论与数理统计主要内容小结概率部分1、全概率公式与贝叶斯公式全概率公式：)()|()(11BPBAPAP)()|(22BPBAP)()|(nnBPBAP其中nBBB,,,21是空间S的一个划分。贝叶斯公式：njjjiiiBAPBPBAPBPABP1)|()()|()()|(其中nBBB,,,21是空间S的一个划分。2、互不相容与互不相关BA,互不相容0)(,BAPBA事件BA,互相独立))(()(BAPBAP;两者没有必然联系3、几种常见随机变量概率密度与分布律:两点分布，二项分布，泊松分布，均匀分布，二项分布，指数分布，正态分布。),,1(~pbX即二点分布，则分布律为.1,0,)1(}{1kppkxPkk),,(~pnbX即二项分布，则分布律为.,...,1,0,)1(}{nkppCkxPknkkn),(~X即泊松分布，则分布律为,......1,0,!}{kkekxPk),,(~baUX即均匀分布，则概率密度为.,0),(,1)(其它baxabxf),(~EX即指数分布，则概率密度为.,00,1)(其它xexfx),,(~2NX即正态分布，则则概率密度为xexfx,21)(22.连续性随机变量X分布函数性质：（i）1)(F，0)(F,(ii)分布函数连续对连续性随机变量X，已知概率密度)(xf，则分布函数为xdttfxF)()(；已知分布函数为)(xF，则概率密度)()(xFxf.对连续性随机变量X，已知概率密度)(xf,区间概率LdxxfLxP)(}{4、连续函数随机变量函数的概率密度设连续随机变量X的概率密度为)(),(XgYxfX也是连续型随机变量，求Y的概率密度求法(i)利用以下结论计算：如果函数)(xg处处可导，且恒有0)(xg（或0)(xg），则Y概率密度为：其他,0|,)(|)]([)(yyhyhfyfXY其中，)(yh是)(xg的反函数，且有)},(),(min{gg)}.(),(max{gg(ii)利用分布函数计算：先求)(xgy值域，再在该值域求Y的分布函数})({}{)(yXgPyYPyF}{BXPdxxfBxX)(则有)()(yFyfY.常用求导公式)())(()())(()()()()()(yyfyyfdxxfyFyfyyY5、二维随机变量分布律对于二维连续性随机变量),(YX，其联合概率密度为),,(yxf其联合分布函数为),,(yxF则,),(),(xydvduvufyxF概率密度性质：（i）,0),(yxf(ii)1),(dvduvuf已知概率密度),,(yxf求区域概率有,),(}),{(DdydxyxfDyxP边缘分布函数为,),()(xXdvduvufxF,),()(yXdudvvufyF边缘概率密度为,),()(dyyxfxfX.),()(dxyxfyfY条件分布函数为,)(),()|(|xYYXduyfyufyxF,)(),()|(|yXXYdvxfvxfxyF条件概率密度为,)(),()|(|yfyxfyxfYYX.)(),()|(|xfyxfxyfXXY对于离散情形，设联合分布律为ijjipyYxXP},{边缘概率密度为.1}{ijijippxXP，jiijjppyYP.1}{条件概率密度为.}|{iijijppxXyYP，jijjippyYxXP.}|{6、二维随机变量函数的分布设二维随机变量),(YX概率密度为),(yxf，分布函数为),(yxF(i)Z=X+Y,则Z的概率密度为dyyyzfzfZ),()(dxxzxf),(当YX,相互独立时，dyyfyzfzfYXZ)()()(dxxzfxfYX)()((ii)M=max{X,Y}与N=min{X,Y}当YX,相互独立时，)()()(zFzFzFYXM，))(1))((1(1)(zFzFzFYXN7、数学期望(i)求法：连续随机变量X概率密度为)(xf，则dxxxfXE)()(；若)(XgY,则dxxfxgYE)()()(.离散随机变量分布律为kkpxxP}{，则1)(kkkpxXE;若)(XgY,则kkkpxgXE)()(1.若有二维的随机变量),(YX,其联合概率密度为),(yxf，若),(YXgY,则dydxyxfyxgYE),(),()(.(ii)性质：)()()(),()(,)(YEXEYXEXCECXECCE)()()()(22112211nnnnXEkXEkXEkXkXkXkEYX,相互独立，则有).()()(YEXEXYE8、方差定义：2)]([)(XEXEXD，标准差（均方差）：)(XD.计算：22)]([)()(XEXEXD性质：).()(),()(,0)(2XDCCXDXDCXDCD)].)([(2)()()(EYYEXXEYDXDYXD常见分布的数学期望和方差：两点分布：).1()(,)(ppXDpXE),,(~pnbX即二项分布，则).1()(,)(pnpXDnpXE),(~X即泊松分布，则.)(,)(XDXE),,(~baUX即均匀分布，则.12)()(,2)(2abXDbaXE),(~EX即指数分布，则.)(,)(2XDXE),,(~2NX即正态分布，则.)(,)(2XDXE9、协方差与相关系数定义：协方差:).()()()]}()][({[),(YEXEXYEYEYXEXEYXCov相关系数：.)()(),(YDXDYXCovXY则有)()(),(YDXDYXCovXY.性质：0),(),(),(),,(),(aXCovXDXXCovXYCovYXCov),(),(),(),,(),(2121YXCovYXCovYXXCovYXabCovbYaXCov),(2)()()(YXCovYDXDYXD如果YX,相互独立，则有)()()(YDXDYXD,1||XY且1||XY1}{,,bXaYPba使.10、独立与不相关关系YXXY,0不相关)()(),(0),(YEXEYXEYXCovYX,相互独立)()(),()()()()(),(YEXEYXEyfxfyFxFyxFF为分布函数，而f为概率密度一般情况下，YX,相互独立YX,不相关，但反之不成立；特殊情况，当);,;,(~),(222121NYX时，YX,相互独立YX,不相关并且此时21222121),(,;)(,)(;)(,)(YXCovYDXDYEXEXY.11、切比雪夫(Chebyshev)不等式：设随机变量X的期望与方差为2)(,)(XDXE，则对任意正数0，有2)(}|)({|XDXEXP,即22}|{|XP.进一步有：,)(1}|)({|2XDXEXP即.1}|{|22XP12、两个中心极限定理定理1（独立同分布的中心极限定理）设随机变量,,,,21nXXX相互独立，服从同一分布，有相同的数学期望和方差：,2,1,0)(,)(2kXDXEkk，则当n充分大时，)1,0()()(~~~~~~~~1111NnnXXDXEXYniknkknknkkkn近似.定理2（棣莫弗-拉普拉斯定理）设随机变量2,1,nn服从参数为)10(,ppn的二项分布，则当n充分大时，)1,0()1(~~~~~~~~Npnpnpn近似统计部分1、常用统计量设X为总体，nXXX,,21是来自总体X的样本，定义样本平均值：niiXnX11,样本方差：212)(11XXnSnii)(11212XnXnnii，样本标准差（均方差）：niiXXnS12)(11样本k阶矩：,2,1,11kXnAnikik2、常用正态总体相关的统计量（1）2分布定义：设niNXi,2,1),1,0(~，则)(~2122nXnii，特别)1(~22iX.性质(i)可加性：设),(~),(~2212nYnX则)(~212nnYX.(ii)设),(~nX则nXDnEX2)(,.(iii)特例：设),,(~2NXi则).(~)(1212nXnii(2)t分布定义：设)(~),1,0(~nYNX,且YX,相互独立，则统计量).(~/ntnYXt性质(i)概率密度为偶函数，关于y轴对称；当n趋于无穷大，该统计量趋于标准的正态分布；(ii)对于分位点有：)()(1ntnt.(3)F分布定义：设)(~),(~21nVnU,且VU,相互独立，则统计量).,(~2121nnFnVnUF性质(i)对于分位点有：.),(1),(12211nnFnnF3、正态总体样本均值与样本方差分布单个总体情形：设X为总体，且服从),,(~2NXnXXX,,21是来自总体X的样本，2,SX分别是样本均值与样本方差，有以下结论：(i),)()(,)()(,)()(222XDSEnnXDXDXEXE而且有),(~21211iniiiniiiniiCCNXC.(ii)),(~2nNX,即)1,0(~/NnX；且212)(1XXnii)1(~)1(222nSn两个正态总体情形：设1,,21nXXX是来自),(~211NX的样本，2,,21nYYY是来自),(~222NY的样本,且两样本相互独立，YX,为两样本均值，2221,SS为两样本方差，则有(i)),(~22212121nnNYX.(ii)当22221时，)2(~11)(212121nntnnSYXw，2)1()1(21222211nnSnSnSw(iii))1,1(~//2122212221nnFSS4.点估计(1)矩估计法设概率密度),,;(21kxf或分布律),,;(}{21kxpxXP中含k,,21个参数需要估计。(i)求总体前k阶矩),,()(),,,()(),,,()(21212222111kkkkkkXEXEXE(ii)由以上方程解得),,(),,,(),,,(2121222111kkkkk(iii)以样本i阶矩iA代替nii,,2,1,即得估计量),,(21kiiAAA.(2)最大似然估计定义：给定一组样本观测值),,(21nxxx，使该观测值概率取最大的参数值为所求参数估计值。两种求法：I直接用最大似然法估计计算(i)写出似然函数连续情形：);()(1inixfL，离散情形：);()(1inixpL(ii)求使似然函数取最大值的参数两种方法：取对数，求导数，令导数为0解出估计值；若求导不行，则用直接分析法(iii)由上写出估计值，再表示出估计量II利用不变性计算若求函数)(uu的最大似然估计，其中u是单调函数，可先求最大似然估计，然后利用不变性知)(u是)