第一章随机过程课件

参考书：1.应用随机过程，林元烈编著，清华大学出版社；2.随机系统分析引论，盛昭瀚，东南大学出版社；3.随机过程，伊曼纽尔、帕尔逊著，邓永录、杨振业译，高等教育出版社；4.随机过程，SheldonM[1].Ross著。第一章预备知识简要回顾一下概率论中与本课程有关的基本概念：随机试验、样本空间、事件、概率、随机变量、概率分布、数字特征等。一、基本概念试验结果事先不能准确预言，三个特征:可以在相同条件下重复进行；每次试验结果不止一个，可预先知道试验所有可能结果；每次试验前不能确定那个结果会出现。样本空间随机试验所有可能结果组成的集合，记为Ω随机事件样本空间Ω的子集A称为随机事件，用A、B、C表示§1.1概率空间随机试验注：由于事件是集合，故集合的运算（并、交、差、上极限、下极限、极限等）都适用于事件。称为必然事件，W样本空间也是一个事件，W空集称为不可能事件。F注：所谓某个事件在试验中是否出现，当且仅当该事件所包含的某个样本点是否出现，因此一个事件实际上对应于的一个确定的子集。事件的概率论运算Ω子集的集合论运算。在实际问题中，并不是对所有的事件样本空间（Ω的所有子集）都感兴趣，而是关心某些事件（Ω的某些子集）及其发生的可能性大小（概率）。为了数学上处理方便，我们常要求这些子集组成的类具有一些基本性质（即对事件需加一些约束）代数（事件族）二、;).1(FW定义1.1设样本空间的某些子集构成的集合记为F，如果F满足下列性质：}{eWFAAW，则若FA).2(.,,2,1,).3(1FAkFAkkk则若F中的元素称为事件。则称F为代数（Bord事件域），称为可测空间),(FW例如，包含A的最大的代数是的一切子集组成的集类W对于某个事件A包含它的代数不是唯一的而包含A的最小的代数则是：},,,{FWAA注：F（Ω）表示由Ω的子集全体构成的集合类，显然满足上述定义的（1）~（3），但这个族常常显得太大以致对于某些样本空间而言不可以在这样的族上定义满足三条公理的概率函数)(P。为了建立概率的数学理论通常只需把事件族取为具有定义（１）～（３）中并包含了我们感兴趣的所有集合的的最小子集族。三、概率的公理化定义为了完成随机现象的数学描述，还要规定随机事件族Ｆ上的概率函数即对Ｆ中的每个事件Ａ要定义一个称作为的概率的数，作为事件A的函数必须假定满足三条公理。)(P)(AP非负性；1)(0,)1(APFA有对规范性；1(2W））（P,,)3(21AA若两两互不相容，即)(jiAAjiF有11)()(kkkkAPAP则称P为（Ω，F）上的概率，（Ω，F，P）称为概率空间，P（A）为事件A的概率。定义1.2：设（Ω，P）是可测空间是定义在F上的实值函数，如果满足)(AP)(AP由此定义出发，可推出概率的其它一些性质：;0)()4(FP)()(),()()(,,,)5(APBPAPBPABPBAFBA且则若即概率具有单调性；211121)()()(,,2,1,)6(limAAAPAAAPAPnFAiiiinnn若若则设1,1nAAnn当新事件：1limiinnAA1,1nAAnn当1limiinnAA连续性定理条件概率在事件B已发生这一条件下，事件A发生的概率。)()()|(BPBAPBAP全概率公式若有N个互斥事件Bn（n=1,2,…,N），它的并集等于整个样本空间，则NiiiBPBAPAP1)()|()(四、几个重要公式加法公式)()()()(,,ABPBPAPBAPFBA则若设事件A1，A2，…，An构成一个完备事件组，概率P(Ai)0,i=1,2,……,n,对于任何一个事件B，若P(B)0,有NiiiiiiABPAPABPAPBAP1)|()()|()()|(贝叶斯公式独立事件)()()(BPAPBAPX样本空间{高,低}-2-1012x§1.2随机变量及其分布一、一维随机变量及其分布函数由于数学分析不能直接利用来研究集合函数，这样影响对随机现象的研究。解决这个问题的方法，主要是设法在集合函数与数学分析中所研究的点函数间建立某种联系，从而能用数学分析去研究随机现象。X(e)就是一个函数，它把样本点映射到实数轴上，随机变量就是从原样本空间Ω到新样本空间的一种映射，我们通常把这样一种对应关系称之为在概率空间上的一个随机变量。下面我们给出随机变量的数学定义。定义1.4：设（Ω，F，P）是概率空间，X=X(e)是定义在Ω上的实函数，如果对任意实数x，{e:X(e)≤x}∈F，则称X(e)是F上的随机变量。事件随机变量离散型随机变量：只取有限个数值或可列无穷多个值。连续型随机变量：从原样本空间到新样本空间的映射是某一个范围，是一段（或几段）实线（也可能是整个坐标轴），随机变量可以取值于某一区间中的任一数。分布函数（一个描述随机变量取值的概率分布情况的统一方法）xxeXePxF),)(:()(。xFxFxFxFxFFxFF；xFxF，xxxF：xFxx0,3;10,1lim,0lim2:12121即右连续有时即当是非降函数具有下列性质分布函数离散型随机变量X的概率分布用分布律描述：,2,1,kpxXPkk:)(描述的概率分布用密度函数连续型随机变量xfXxxkkpxF:分布函数dttfxFx分布函数为：离散型随机变量的概率分布用分布列描述0－1分布二项分布泊松分布qXPpXP)0(,)1(nkqpCkXPknkkn2,1,0,)(,2,1,0,!)(kekkXPk连续型随机变量的概率分布用概率密度描述均匀分布正态分布指数分布其它,0,1)(bxaabxfxexfax,21)(222)(0,00,)(xxexfx随机变量函数的分布在给定某任意的随机变量X，以及它的概率分布函数FX(x)，希望进一步求出给定的随机变量的某些可测函数（如Y=g(X)）的概率分布函数。非线性放大器YXY的概率分布函数公式为),)(:()(XYeyXgePyFW如果上式右端概率的导数对于y处处存在，那么这个导数就给出了随机变量Y的概率密度}),)(:({)(XYeyXgePdydyfW二、n维随机变量及其分布函数定义1.5设（Ω，F，P）是概率空间，X=X(e)＝（X1(e),…,Xn(e)）是定义在Ω上的n维空间Rn中取值的向量函数。如果对于任意x=(x1,…,xn)∈Rn，{e:X1(e)≤x1,…,Xn(e)≤xn}∈F，则称X=X(e)为n维随机变量。称为X=(X1,X2,…,Xn)的联合分布函数nniiinnnxXePxeXxeXxeXePxxxFxF:},,,:{,22112.1:,,21具有下列性质维联合分布函数nxxxFn；xxx，Fxxxxnni是非降函数对于每个变量,,,,,,12121；aaaF，bbabbabbFbbabbFbbbFniba，bababa，Rnnjijinjjjiiininiiiniinnn0,,,1,,,,,,,,,,,,,,,,,,,,1,,;;,;,3211,111111111212211其中中的任意区域对于；xxx，Fxxxxnni是右连续的对于每个变量,,,,,,22121率中任一超长方体中的概落在nRX1,,,01,,,,,,lim,,2,1,0,,,,,lim421212121nnnixxxFxxxFxxxnixxxxFxii三、边缘分布若二维联合分布函数中有一个变元趋于无穷，则其极限函数便是一维分布函数，对于这种特殊性质，我们称其为边缘分布。),(),()()(yFyYXPyYPyFY对于任意两个随机变量X,Y，其联合分布函数为：),(yxF则：分别称FX(x)和FY(y)为关于X和关于Y的边缘分布函数。),(yxF),(),()()(xFYxXPxXPxFX离散型随机变量（X，Y）边缘分布律计算如下连续型随机变量（X，Y）边缘概率密度计算如下dyyxfxfX),()(,2,1,)(1ippxXPjijii,2,1,)(1jppyYPiijjjdxyxfyfY),()(相互独立的随机变量设X，Y是两个随机变量，若对任意实数x，y有)()())()((),(yYPxXPyYxXPyYxXP则称X，Y为相互独立的随机变量。若X，Y为相互独立随机变量，则有)()(),()()(),(yfxfyxfyFxFyxFYXYX联合密度边缘密度边缘密度联合密度四、条件分布)()()|(BPBAPBAP)()()|()|(|BPBxXPBxXPBxFBX)(),()|(|yfduyufyYxFYxYX条件概率条件分布函数两边对x微分)(),()|(|yfyxfyxfYYXxYXYXduyufyYxF)|()|(||§1.3随机变量的数字特征随机变量的数学期望随机变量函数的期望值方差协方差相关系数独立与不相关一、斯蒂尔吉斯积分（补充）1.有限区间上的斯蒂尔吉斯积分bxxxa，nba，baxgxfn100,,,分点为个子区间分成把区间有界函数上的两个是定义在区间设定义nkxxkk1,max1令111,kkknkkkkxgxgfSxx作和式上任意取一个点在每一个子区间.,Stieltjesbaxgxf的斯蒂尔吉斯积分上在区间对函数则称此极限为函数xdgxfba记为。Sx，xg，，，SS积分就变成黎曼积分则如果取推广黎曼积分的积分是高等数学中积分简称，xgxgfSnkkkk存在如果极限1100limlim，k的取法无关且与子区间的分法和2.无限区间上的S积分，Sxgxf，ba，xgxf可积的是对上若在任意有限区间的两个函数上是定义在无限区间设定义,,,，xgxf的斯蒂吉斯积分上在无限区间对则称此极限为,存在且极限babaxdgxflimxdgxf记为级数积分可化为通常积分或取一些特殊形式时当在积分中，xg，.3，xx，xg个有限多个或无限可列多跃点为它的跳上的阶梯函数是在若,,,21积分化成黎曼积分。后者把积分化为和式前者把S，Skkkkxgxgxfxdgxf：00则xg，xg它的导函数为上的可微函数是在若,dxxgxfxdgxf则的数学期望或均值。为则称，若的分布函数为设随机变量定义XxxdFEXxdFxxFX左边的积分称为斯蒂吉斯积分,2,1,kpxXP，Xkk分布律为为离散型随机变量若1kkkpxEX则xf，X概率密度为为连续型随机变量若dxxxfEX则二、数学期望随机变量函数的期望值已知随机变量X的数学期望值，求随机变量函数Y=g(X)的数学期望，dxxfxgdyyyfXgEYEXY)()()())(()(对于多