随机过程知识点

精心整理精心整理第一章：预备知识§1.1概率空间随机试验，样本空间记为Ω。定义1.1设Ω是一个集合，F是Ω的某些子集组成的集合族。如果（1）F；（2）A若F，AA\则F；（3）若nAF，，，21n，则1nnAF；则称F为代数(Borel域)。(,F)称为可测空间，F中的元素称为事件。由定义易知：定义1.2设(,F)是可测空间，P(·)是定义在F上的实值函数。如果则称P是F,上的概率，（PF，，）称为概率空间，P(A)为事件A的概率。定义1.3设（PF，，）是概率空间，FG，如果对任意GAAAn,,,21，,2,1n有：,11niiniiAPAP则称G为独立事件族。§1.2随机变量及其分布随机变量X，分布函数)(xF，n维随机变量或n维随机向量，联合分布函数，TtXt,是独立的。§1.3随机变量的数字特征定义1.7设随机变量X的分布函数为)(xF，若)(||xdFx，则称)(XE＝)(xxdF为X的数学期望或均值。上式右边的积分称为Lebesgue-Stieltjes积分。方差，EYYEXXEBXY为X、Y的协方差，而为X、Y的相关系数。若,0XY则称X、Y不相关。（Schwarz不等式）若,,22EYEX则§1.4特征函数、母函数和拉氏变换定义1.10设随机变量的分布函数为F（x），称为X的特征函数随机变量的特征函数具有下列性质：(1)(0)1,()1,()()ggtgtgt1(2)g(t)在,上一致连续。（3）()(0)()kkkgiEX(4)若12,,,nXXX是相互独立的随机变量，则12nXXXX的特征函数12()()()()ngtgtgtgt，其中()igt是随机变量Xi的特征函数，1,2,,in.精心整理精心整理定义1.11设12(,,,)nXXXX是n维随机变量，t=(12,,,nttt),R则称121()(,,,)()[exp()]nitXnkkkgtgtttEeEitX,为X的特征函数。定义1.12设X是非负整数值随机变量，分布列则称)()(XdefsEsP＝kkksP0为X的母函数。§1.5n维正态分布定义1.13若n维随机变量),,,(21nXXXX的联合概率密度为式中，),,,(21naaaa是常向量，nnijbB)(是正定矩阵，则称X为n维正态随机变量或服从n维正态分布，记作),(~BaNX。可以证明，若),(~BaNX，则X的特征函数为为了应用的方便，下面，我们不加证明地给出常用的几个结论。性质1若),(~BaNX则nlbBaXEklXXkklk,,2,1,,)(。性质2设),(~BaNX，XAY，若BAA正定，则),(~BAAaANY。即正态随机变量的线性变换仍为正态随机变量。性质3设),,,(4321XXXXX是四维正态随机变量，4,3,2,1,0)(kXEk，则§1.6条件期望给定Y=y时，X的条件期望定义为由此可见除了概率是关于事件｛Y=y｝的条件概率以外，现在的定义与无条件的情况完全一样。E(X|Y=y)是y的函数，y是Y的一个可能值。若在已知Y的条件下，全面地考虑X的均值，需要以Y代替y，E(X|Y)是随机变量Y的函数，也是随机变量，称为X在Y下的条件期望。条件期望在概率论、数理统计和随机过程中是一个十分重要的概念，下面我们介绍一个极其有用的性质。性质若随机变量X与Y的期望存在，则)()|()]|([)(ydFyYXEYXEEXEY--------(1)如果Y是离散型随机变量，则上式为如果Y是连续型，具有概率密度f(x)，则（1）式为第二章随机过程的概念与基本类型§2.1随机过程的基本概念定义2.1设（PF，，）是概率空间,T是给定的参数集,若对每个t∈T，有一个随机变量X(t,e)与之对应，则称随机变量族}),,({TtetX是（PF，，）的随机过程,简记为随机过程}),({TttX。T称为参数集，通常表示时间。通常将随机过程}),,({TtetX解释为一个物理系统。X(t)表示在时刻t所处的状精心整理精心整理态。X(t)的所有可能状态所构成的集合称为状态空间或相空间，记为I。从数学的观点来说，随机过程}),,({TtetX是定义在T×Ω上的二元函数。对固定的t，X(t,e)是定义在T上的普通函数，称为随机过程}),,({TtetX的一个样本函数或轨道，样本函数的全体称为样本函数的空间。§2.2随机过程的函数特征tX={X(t),t∈T}的有限维分布函数族。有限维特征函数族：其中：定义2.3设tX={X(t),t∈T}的均值函数deftmX)()]([tXE，Tt。二阶矩过程，协方差函数：T,)]()([),()(2ttmtXEdefttBtDXXX相关函数：),(tsRX)]()([tXsXE定义2.4设{X(t),t∈T}，{Y(t),t∈T}是两个二阶矩过程，互协方差函数，互相关函数。§2.3复随机过程定义2.5设},{TtXt，},{TtYt是取实数值的两个随机过程，若对任意TttttiYXZ，其中1i，则称},{TtZt为复随机过程．定理2.2复随机过程},{TtXt的协方差函数),(tsB具有性质（1）对称性：),(),(stBtsB；（2）非负定性§2.4几种重要的随机过程一、正交增量过程定义2.6设tt,是零均值的二阶矩过程，若对任意的,4321tttt有公式03412tttt，则称t正交增量过程。二、独立增量过程定义2.7设tt,是随机过程，若对任意的正整数n和,21nttt随机变量12312,,,nntttttt是互相独立的，则称tt,是独立增量过程，又称可加过程。定义2.8设tt,是平稳独立增量过程，若对任意,ts随机变量st的分布仅依赖于st，则称tt,是平稳独立增量过程。三、马尔可夫过程定义2.9设TttX,为随机过程，若对任意正整数n及nttt,21,0,,)(1111nnxtXxtXP，且其条件分布1111,,|)(nnnnxtXxtXxtXP=11|)(nnnnxtXxtXP，(2.6)则称TttX,为马尔可夫过程。四、正态过程和维纳过程精心整理精心整理定义2.10设TttX,是随机过程，若对任意正整数n和Tttt,,21,(,,21tXtX,ntX)是n维正态随机变量，则称TttX,是正态过程或高斯过程。定义2.11设ttW),(为随机过程，如果（1）0)0(W；（2）它是独立、平稳增量过程；（3）对ts,，增量0,||,0~)()(22stNsWtW，则称ttW),(为维纳过程，也称布朗运动过程。定理2.3设ttW),(是参数为2的维纳过程，则（1）任意t),(,||,0~)(2tNtW；（2）对任意tsa,,),min())()())(()((2atasaWtWaWsWE,特别：tstsRw,min,2。五、平稳过程定义2.12设TttX,是随机过程，如果对任意常数和正整数,n当nntttt,,,,,11时，nttt,,21与nttt,,,21有相同的联合分布，则称TttX,为严平稳过程，也称狭义平稳过程。定义2.13设TttX,是随机过程，如果（1）TttX,是二阶矩过程；（2）对于任意ttmt,常数；（3）对任意的stRtsRts,,,，则称TttX,为广义平稳过程，简称为平稳过程。若T为离散集，则称平稳过程TttX,为平稳序列。第三章泊松过程§３.1泊松过程的定义和例子定义3.1计数过程定义3.2称计数过程}0),({ttX为具有参数＞0的泊松过程，若它满足下列条件(1)X(0)=0；(2)X(t)是独立增量过程；(3)在任一长度为t的区间中，事件A发生的次数服从参数t＞0的泊松分布，即对任意s,t＞0，有注意，从条件(3)知泊松过程是平稳增量过程且ttXE)]([。由于，ttXE)]([表示单位时间内事件A发生的平均个数，故称为此过程的速率或强度。定义3.3称计数过程}0),({ttX为具有参数＞0的泊松过程，若它满足下列条件(1)X(0)=0；(2)X(t)是独立、平稳增量过程；精心整理精心整理(3)X(t)满足下列两式：)(}2)()({),(}1)()({hotXhtXPhohtXhtXP(3.2)定理3.1定义3.2与定义3.3是等价的。3.2泊松过程的基本性质一、数字特征设}0),({ttX是泊松过程，一般泊松过程的有),min(),(tstsBX。有特征函数定义，可得泊松过程的特征函数为二、时间间隔与等待时间的分布nW为第n次事件A出现的时刻或第n次事件A的等待时间，nT是第n个时间间隔，它们都是随机变量。定理3.2设}0),({ttX是具有参数的泊松分布，)1(nTn是对应的时间间隔序列，则随机变量),2,1(nTn是独立同分布的均值为/1的指数分布。定理3.3设}1,{nWn是与泊松过程}0),({ttX对应的一个等待时间序列，则nW服从参数为n与的分布，其概率密度为三、到达时间的条件分布定理3.4设}0),({ttX是泊松过程，已知在[0,t]内事件A发生n次，则这n次到达时间n21与相应于n个[0,t]上均匀分布的独立随机变量的顺序统计量有相同的分布。§3.3非齐次泊松过程定义3.4称计数过程{(),0}Xtt为具有跳跃强度函数()t的非齐次泊松过程，若它满足下列条件：(1)(0)0X；(2)()Xt是独立增量过程；(3){()()1}()(){()()2}()PXthXtthohPXthXtoh非齐次泊松过程的均值函数为：定理3.5设{(),0}Xtt是具有均值函数0()()tXmtsds的非齐次泊松过程，则有或上式表明{()()}PXtsXtn不仅是t的函数，也是s的函数。3.4复合泊松过程定义3.5设}0),({ttN是强度为的泊松过程，,...}2,1{,kYk是一列独立同分布随机变量，且与}0),({ttN独立，令则称}0),({ttX为复合泊松过程。定理3.6设,0)()(1tktxYtNk是复合泊松过程，则（1）。}0),({ttX是独立增量过程；（2）X(t)的特征函数]}1)([exp{)()(ugtugYtX，其中)(ugY是随机变量1Y的特征函精心整理精心整理数；是事件的到达率。（3）若,)(21YE则].[)]([],[)]([211YtEtXDYtEtXE第4章马尔可夫链§4.1马尔可夫链的概念及转移概率一、马尔可夫键的定义定义1设有随机过程},{TnXn，若对于任意的整数Tn和任意的Iiiin110,,,，条件概率满足则称},{TnXn为马尔可夫链，简称马氏链。二、转移概率定义2称条件概率为马尔可夫链},{TnXn在时刻n的一步转移概率，其中Iji,，简称为转移概率。定义3若对任意的Iji,，马尔可夫链},{TnXn的转移概率)(npij与n无关，则称马尔可夫链是齐次的，并记)(npij为ijp。定义4称