数理统计与随机过程ch10

数理统计与随机过程第十章北京工业大学应用数理学院第十章随机过程及其统计描述§10.1随机过程的概念对于一些随机现象，有时不能用随机变量或多维随机变量来描述，需要用一族(无限多个)随机变量来描述。现在来看一个具体例子。热噪声电压:电子元件或器件由于内部微观粒子(如电子)的随机运动所引起的端电压称为热噪声电压,它在任一确定时刻t的值都是一随机变量,记为V(t)。不同时刻对应不同的随机变量。当时间在某个区间,如[0,∞)上变化时，热噪声电压表现为一族随机变量,记为{V(t),t≥0}。在无线电通讯技术中，接收机在接收信号时，机内的热噪声电压要对信号产生持续的干扰，为消除这种干扰，就必须掌握热噪声电压随时间变化的过程。为此，我们通过某种装置对元件(或器件)两端的热噪声电压进行长时间的测量，并把结果自动记录下来。作一次试验(测量一此长时间内的热噪声电压)，得到一个电压—时间函数v1(t),t0(如图10-1)。这个电压—时间函数在试验前是不可能预先确知的，只有通过测量才能得到。图10-1如果在相同条件下独立地再进行一次测量，得到的记录可能是不同的。事实上，在相同条件下每次测量都将产生不同的电压—时间函数。这样，不断独立地一次次重复测量，就得到一族不同的电压—时间函数，这族函数从另一角度规划了热噪声电压。图10-1以上述例子为背景，引入随机过程的概念。设T是一个无限实数集。我们把依赖于参数t∈T的一族(无限多个)随机变量收集在一起，称为随机过程，记成{X(t),t∈T}。这里，对每一个t∈T，X(t)都是一个随机变量。T称为参数集。常把t看作为时间，称X(t)为t时刻过程的状态，称X(t1)＝x(实数)为t＝t1时过程处于状态x。对于一切t∈Ｔ,X(t)所有可能取得一切值的全体称为随机过程的状态空间。对随机过程{X(t)，t∈T}进行一次试验(即在T上进行一次全程观测)，其结果是t的函数，记为x(t)，t∈T，称它为随机过程的一个样本函数或样本曲线。所有不同的试验结果构成一族(可以只包括有限个，如本节例1)样本函数。随机过程可以看作是多维随机变量的延伸。随机过程与其样本函数的关系就像数理统计中总体与样本的关系一样。依照上面的说法，热噪声电压的变化过程{Ｖ(t)，t≥０}是一随机过程，它的状态空间是(-∞,+∞)，一次观测到的电压—时间函数就是这个随机过程的一个样本函数。在以后的叙述中，为简便起见：常以X(t)，t∈Ｔ表示随机过程。在上下文不致混淆的情形下，一般略去记号中的参数集T。例1抛一枚硬币试验，样本空间是S={H,T}，定义,).(出现出现cos)(，，，，tTtHπttX其中P(H)=P(T)=1/2。对任意固定的t,X(t)是一定义在S上的随机变量；对不同的t，X(t)是不同的随机变量(见图10-2)，所以{X(t)，t∈(-∞,+∞)}是一族随机变量，即是随机过程。作一次试验，若出现H，样本函数x1(t)=cosπt；若出现T，样本函数x2(t)=t。故，随机过程对应的一族样本函数仅包含两个函数:{cosπt,t}。显然，这个随机过程的状态空间为(-∞,+∞)。图10-2例2考虑式中α,ω是正常数，Θ是在(0,2π)上服从均匀分布的随机变量。显然，对任一固定的时刻t1,X(t1)=αcos(ωt1+Θ)是一个随机变量。因而，由(1.1)式确定的X(t)是一随机过程，通常称它为随机相位正弦波。其状态空间是[-α,α]。在(0,2π)内随机地取一数θi,相应的样本函数是图10-3中画出了这个随机过程的两条样本曲线。(1.1))(),,(),cos(tttX).2,0(),cos()(iiittx图10-3例3在测量运动目标的距离时，存在随机误差。若以ε(t)表示在时刻t的测量误差，则它是一个随机变量。当目标随时间t按一定规律运动时，测量误差ε(t)也随时间t而变化。换句话说,ε(t)是依赖于t的一族随机变量，亦即{ε(t),t≥0}是一随机过程，状态空间是(-∞,+∞)。例4设某市120急救电话台不断地接到用户的呼叫，若以X(t)表示时间间隔(0,t]内接到的呼叫次数，则它是一个随机变量，且对不同的t≥0,X(t)可能是不同的随机变量。故，{X(t),t≥０}是一随机过程，状态空间是{0,1,2,…}。例5考虑掷一颗骰子试验。(1).设Xn是第n次(n≥1)掷的点数，对于n=1,2,…的不同值,Xn是不同的随机变量，因而{Xn,n≥1}构成一随机过程,称为伯努利过程,或伯努利随机序列。状态空间都是{1,2,3,4,5,6}。(2).设Xn是前n次掷出的最大点数，则{Xn,n≥1}也是一随机过程。状态空间是{1,2,3,4,5,6}。随机过程可依其在任意时刻的状态是连续型随机变量或离散型随机变量而分成连续型随机过程或离散型随机过程。热噪声电压、例2和例3是连续型随机过程，例1,例4和例5是离散型随机过程。随机过程还可依时间(参数)是连续或离散进行分类。当时间集T是有限或无限区间时，称{X(t),t∈T}为连续参数随机过程(以下如无特别指明，随机过程总是指连续参数而言的)；如果T是离散集合，例如T={0,1,2,…}，则称{X(t),t∈T}为离散参数随机过程或随机序列，此时常记成{Xn,n=0,1,2,…}等，如例5。有时，为了适应数字化的需要，实际中也常将连续参数随机过程转化为随机序列处理。例如,我们只在时间集T={△t,2△t,…,n△t,…}上观察电阻的热噪声电压Ｖ(t)，这时就得到一个随机序列{V1,V2,…,Vn,…}，其中Vn=V(n△t)。显然，当△t充分小时，这个随机序列能够近似地描述连续时间情况下的热噪声电压。需注意的是：参数t虽然通常解释为时间，但它也可以表示其它的量。诸如：序号、距离等。如例5中，假定每隔一个单位时间掷一次骰子，则第n次掷出的点数Xn就相当于t=n时骰子出现的点数。§10.2随机过程的统计描述随机过程在任一时刻的状态是随机变量，由此可以利用随机变量(一维或多维)的统计描述方法来描述随机过程的统计特征。10.2.1随机过程的分布函数族给定随机过程{X(t),t∈T}，对每个固定的t∈T,随机变量X(t)的分布函数一般与t有关，记为.},)({),(RxxtXPtxFX称其为随机过程{X(t),t∈T}的一维分布函数，称{Fx(x,t),t∈T}为一维分布函数族。一维分布函数族刻画了随机过程在各个时刻的统计特征。为描述随机过程在不同时刻状态之间的相关关系，一般要对任意n个(n=2,3,…)不同时刻t1,t2,…,tn∈T,引入n维随机变量(X(t1),X(t2),…,X(tn)),其联合分布函数记为.,,2,1,},)(,,)(,)({),,,;,,,(22112121niRxxtXxtXxtXPtttxxxFinnnnX对固定的n,称{FX(x1,x2,…,xn;t1,t2,…,tn),ti∈T}为随机过程{X(t),t∈T}的n维分布函数族。当n充分大时，n维分布函数族能近似地描述随机过程的统计特征。显然，n取得愈大，则n维分布函数族描述随机过程的特征也愈趋于完善。一般地,可以指出(科尔莫戈罗夫定理):有限维分布函数族，即{FX(x1,x2,…,xn;t1,t2,…,tn),n=1,2,…,ti∈T}完全地确定了随机过程的统计特征。上一节，我们曾将随机过程按其状态或时间的连续或离散进行了分类。然而，随机过程本质的分类方法乃是按其分布特征进行分类的。具体地说：就是依照过程在不同时刻的状态之间的特殊统计依赖方式，抽象出一些不同类型的模型。如：独立增量过程、马尔可夫过程、平稳过程等。我们将在以后的章节中对它们作不同程度的介绍。10.2.2随机过程的数字特征随机过程的分布函数族能完善地刻画随机过程的统计特征。但是，人们在实际中，根据观察往往只能得到随机过程的部分资料(样本)，用它来确定有限维分布函数族是困难的，甚至是不可能的。因而，像引入随机变量的数字特征那样，有必要引入随机过程的基本数字特征—均值函数和相关函数等。这些数字特征在一定条件下是便于测量的。给定随机过程{X(t),t∈T}，固定t∈T,X(t)是一随机变量，它的均值一般与t有关，记为(2.1))],([)(tXEtX称μX(t)为随机过程{X(t)，t∈T}的均值函数。注意,μX(t)是随机过程的所有样本函数在时刻t的函数值的平均，通常称这种平均为集平均或统计平均,以区分第十二章中引入的时间平均概念。均值函数μX(t)表示了随机过程X(t)在各个时刻的摆动中心，如图10-4所示。其次，把随机变量X(t)的二阶原点矩和二阶中心矩分别记作(2.2))],([)(22tXEtX)3(2},)]()({[)]([)()(22.ttXEtXVartDtXXX并分别称它们为随机过程{X(t),t∈T}的均方值函数和方差函数。方差函数的算术平方根σX(t)称为随机过程的标准差函数，它表示随机过程X(t)在时刻t对于均值μX(t)的平均偏离程度。见图10-4。又，对任意t1,t2∈T，把随机变量X(t1)和X(t2)的二阶原点混合矩记作(2.4))],()([),(2121tXtXEttRXX并称它为随机过程{X(t)，t∈T}的自相关函数，简称相关函数。记号RXX(t1,t2)在不致混淆时，常简记成RX(t1,t2)。类似地，将X(t1)和X(t2)的二阶混合中心矩记成(2.5))]},()()][()({[)](),([),(22112121ttXttXEtXtXCovttCXXXX并称为随机过程{X(t),t∈T}的自协方差函数，简称协方差函数。CXX(t1,t2)也常简记为CX(t1,t2)。由多维随机变量数字特征的知识可知，自相关函数和自协方差函数是可划随机过程自身在两个不同时刻的状态之间统计依赖关系的数字特征。现把(2.1)～(2.5)式定义的诸数字特征之间的关系简述如下：由(2.2)和(2.4)式知,均方值函数为(2.6)).,()(2ttRtXX由(2.5)式展开，得(2.7)).()(),(),(212121ttttRttCXXxX特别地，当t1=t2=t时，由(2.7)式，得(2.8)).(),(),()(22tttRttCtXXXX由(2.6)～(2.8)式可知，以上诸数字特征中最主要的是均值函数和自相关函数。从理论的角度来看，仅仅研究均值函数和自相关函数当然是不能代替对整个随机过程的研究的，但是由于它们确实刻画了随机过程的主要统计特征，而且远较有限维分布函数族易于观察和实际计算，因而对于应用课题而言,它们常常能够起到重要作用。据此,在随机过程的专著中都着重研究了所谓二阶矩过程。随机过程{X(t)，t∈T}，如果对于每一个t∈T，二阶矩E[X2(t)]都存在，那么称它为二阶矩过程。二阶矩过程的相关函数总存在。事实上，由于E[X2(t1)],E[X2(t2)]存在，根据柯西—施瓦兹不等式(参见第四章习题33)，有.,)],([)]([|)]()([|212212221TtttXEtXEtXtXE即知：RX(t1,t2)=E[X(t1)X(t2)]存在。在实际中，常遇到一种特殊的二阶矩过程—正态过程。随机过程{X(t),t∈T}称为正态过程，如果对任意n≥1及任意t1,t2,…,tn∈T,(X(t1),X(t2),…,X(tn))服从n维正态分布。由第四章§3、§4知，正态过程的全部统计特征完全由它的均值函数和自协方差函数(或自相关函数)所确定。例1设A,B是两个随机变量,求随机过程X(t)=At+B,t∈T=(-∞,+∞)的均值函数和自相关函数。如果A,B相互独立，且A～N(0,1),B～U(0,2)，问X(t)的均值函数和自相关函数又是怎样的？解X(t)的均值函数和自相关函数分别为.,],[][)(][)])([()]()([),(21221221212121TttBEABEt