随机过程西财讲义

1随机过程及其经济应用参考书目：《随机过程》，李裕奇，国防工业出版社《随机过程》，张卓奎，西安交通大学出版社《金融随机分析》，StevenE．Shreve，上海财经大学出版社（翻译）教学安排：预备知识——概率论、实变函数第一章——随机过程基本概念第二章——泊松过程第三章——平稳过程第四章——马尔可夫过程第五章——鞅第六章——布朗运动预备知识——概率论、实变函数一．条件分布与条件期望对于二维随机变量(X,Y)，通常是给定一个随机变量取值的条件下，讨论另一个随机变量的分布．定义设二维离散随机变量(X,Y)中的联合概率分布为L,2,1,,},{====jipyYxXPjiji，当边际概率分布P{Y=yj}=p⋅j0时，则L,2,1,)|(}|{|=====⋅ippyxpyYxXPjjijiYXji称为给定Y=yj的条件下随机变量X的条件概率分布．定义设二维连续随机变量(X,Y)的联合密度函数为p(x,y)，当边际密度函数pY(y)0时，则)(),()|(|ypyxpyxpYYX=称为给定Y=y的条件下X的条件密度函数．类似，可定义给定X=x的条件下随机变量Y的条件概率分布或条件密度函数．例设(X,Y)的联合密度函数为⎩⎨⎧=.,0;10,8),(其它xyxyyxp求条件密度函数pX|Y(x|y)与pY|X(y|x)．解：因X的全部可能取值为[0,1]，并且当0x1时，0yx，则边际密度函数3020648),()(xyxxydydyyxpxpxxX====∫∫+∞∞−，0x1，当0x1时，pX(x)0，有23|248)(),()|(xyxxyxpyxpxypXXY===，0yx，故当0x1时，条件密度函数⎪⎩⎪⎨⎧=.,0;0,2)|(2|其它xyxyxypXY1y=x0xy2因Y的全部可能取值为[0,1]，并且当0y1时，yx1，则边际密度函数)(448),()(3121yyxyxydxdxyxpypyyY−====∫∫+∞∞−，0y1，当0y1时，pY(y)0，有23|12)(48)(),()|(yxyyxyypyxpyxpYYX−=−==，yx1，故当0y1时，条件密度函数⎪⎩⎪⎨⎧−=.,0;1,12)|(2|其它xyyxyxpYX关于条件分布求数学期望，称为条件数学期望．定义设(X,Y)是二维离散随机变量，若∑ijiYXiyxpx)|(|绝对收敛，则称为给定Y=yj的条件下，X的条件数学期望，记为E(X|Y=yj)；若∑jijXYjxypy)|(|绝对收敛，则称为给定X=xi的条件下，Y的条件数学期望，记为E(Y|X=xi)．设(X,Y)是二维连续随机变量，若∫+∞∞−dxyxxpYX)|(|绝对收敛，则称为给定Y=y的条件下，X的条件数学期望，记为E(X|Y=y)；若∫+∞∞−dyxyypXY)|(|绝对收敛，则称为给定X=x的条件下，Y的条件数学期望，记为E(Y|X=x)．例设(X,Y)的密度函数为⎩⎨⎧=.,0;10,8),(其它xyxyyxp求条件数学期望E(X|Y=y)与E(Y|X=x)．解：因0y1时，条件密度函数⎪⎩⎪⎨⎧−=.,0;1,12)|(2|其它xyyxyxpYX且0x1时，条件密度函数⎪⎩⎪⎨⎧=.,0;0,2)|(2|其它xyxyxypXY故0y1时，)1(3)1(2311212)|()|(2313212|yyxydxyxxdxyxxpyYXEyyYX−−=⋅−=−⋅===∫∫∞+∞−；0x1时，xyxdyxyydyxyypxXYExxXY323122)|()|(03202|=⋅=⋅===∫∫+∞∞−．从前面的例子中可见，条件数学期望E(X|Y=y)是关于y的函数，E(Y|X=x)是关于x的函数，即条件数学期望是关于条件随机变量取值的函数．记函数h(y)=E(X|Y=y)，相应有随机变量函数h(Y)=E(X|Y)，即条件数学期望E(X|Y)是关于条件随机变量Y的函数，也是一个随机变量．条件数学期望E(X|Y)除了具有一般数学期望的所有性质，还具有其特有的性质：（1）若X与Y相互独立，则E(X|Y)=E(X)，E(Y|X)=E(Y)；（2）设g(y)是一个函数，则E[g(Y)|Y]=g(Y)，E[g(Y)X|Y]=g(Y)E(X|Y)．与条件随机变量独立时，条件期望等于无条件的期望；而条件随机变量的函数，相当于常数．3定理（重期望公式）设(X,Y)是二维随机变量，且E(X)存在，则E[E(X|Y)]=E(X)．证：以连续情形为例，进行证明．设(X,Y)的联合密度函数为p(x,y)，X与Y的边际密度函数分别为pX(x)与pY(y)，则)(),()(),()|()|(|ypdxyxpxdxypyxpxdxyxpxyYXEYYYX∫∫∫+∞∞−∞+∞−∞+∞−====，因条件数学期望E(X|Y)是条件随机变量Y的函数，设h(Y)=E(X|Y)，故)(),()()|()()()]([)]|([XEdydxyxpxdyypyYXEdyypyhYhEYXEEYY======∫∫∫∫+∞∞−+∞∞−+∞∞−+∞∞−．重期望公式常用于计算复杂随机变量的数学期望．如果E(X)难以直接计算，则可找出一个简单随机变量Y，先求出条件数学期望E(X|Y)，它是Y的函数，再求出E[E(X|Y)]，这样就可利用重期望公式将计算复杂随机变量的数学期望转化为计算简单随机变量函数的数学期望．例一矿工被困在有三个门的矿井里．第一个门通一坑道，沿此坑道走3小时可到达安全区；第二个门通一坑道，沿此坑道走5小时又回到原处；第三个门通一坑道，沿此坑道走7小时又回到原处．假定此矿工总是等可能地在三个门中选择一个，试求他平均要用多少时间才能到达安全区．解：设该矿工需要X小时到达安全区，X的分布很复杂，又设Y表示矿工选择的门的编号，Y的分布很简单，313131321PY因E(X|Y=1)=3，E(X|Y=2)=5+E(X)，E(X|Y=3)=7+E(X)，则)(32531)](7[31)](5[313}{)|()]|([)(31XEXEXEiYPiYXEYXEEXEi+=×++×++×=====∑=，故5)(31=XE，即E(X)=15．定理（条件方差公式）设(X,Y)是二维随机变量，且Var(X)存在，则Var(X)=E[Var(X|Y)]+Var[E(X|Y)]．证：因E[Var(X|Y)]=E[E(X2|Y)−E(X|Y)2]=E[E(X2|Y)]−E[E(X|Y)2]=E(X2)−E[E(X|Y)2]，且Var[E(X|Y)]=E[E(X|Y)]2−{E[E(X|Y)]}2=E[E(X|Y)]2−[E(X)]2，故两式相加可得E[Var(X|Y)]+Var[E(X|Y)]=E(X2)−[E(X)]2=Var(X)．条件方差公式常用于计算复杂随机变量的方差．例（随机个独立随机变量和的数学期望与方差）设X1,X2,…是一列独立同分布的随机变量，N是只取非负整数的随机变量，且N与X1,X2,…相互独立，记∑==NiiXY1，求E(Y)，Var(Y)．解：因E(Y)=E[E(Y|N)]，Var(Y)=E[Var(Y|N)]+Var[E(Y|N)]，且)()()|(111XnEXEXEnNYEniinii==⎟⎟⎠⎞⎜⎜⎝⎛==∑∑==，即E(Y|N)=NE(X1)，故E(Y)=E[E(Y|N)]=E[NE(X1)]=E(N)E(X1)；而)Var()Var(Var)|Var(111XnXXnNYniinii==⎟⎟⎠⎞⎜⎜⎝⎛==∑∑==，即Var(Y|N)=NVar(X1)，故Var(Y)=E[Var(Y|N)]+Var[E(Y|N)]=E[NVar(X1)]+Var[NE(X1)]=E(N)Var(X1)+Var(N)[E(X1)]2．4二．特征函数定义设X是一个随机变量，称ϕ(v)=E(eivX)，−∞v+∞为X的特征函数（CharacteristicFunction）；又称M(u)=E(euX)，−∞u+∞为X的矩母函数（Moment-generatingFunction）．由欧拉公式eiθ=cosθ+isinθ可知|eivX|=1，所以特征函数ϕ(v)=E(eivX)总是存在．对于离散随机变量，设X的概率函数为P{X=k}=pk，k=1,2,…，则X的特征函数为+∞∞−=∑+∞=vpvkkivxk,e)(1ϕ．对于连续随机变量，设X的密度函数为p(x)，则X的特征函数为+∞∞−=∫+∞∞−vdxxpvivx,)(e)(ϕ．常用分布的特征函数（1）单点分布：概率函数P{X=k}=a，特征函数为iavve)(=ϕ；（2）0-1分布：概率函数P{X=1}=p，P{X=0}=1−p，特征函数为)1(e)1(ee)(01ppppviviviv−+=−⋅+⋅=××ϕ；（3）泊松分布P(λ)：概率函数L,2,1,0,e!}{===−kkkXPkλλ，特征函数为)1(ee00eee!)e(ee!e)(−−+∞=−+∞=−=⋅=⋅=⋅=∑∑ivivkkivkkikvkkvλλλλλλλϕ；（4）均匀分布U(a,b)：密度函数⎪⎩⎪⎨⎧−=.,0;,1)(其他bxaabxp特征函数为)(eee11e)(abititabdxabviavibvbaivxbaivx−−=⋅−=−⋅=∫ϕ；（5）指数分布Exp(λ)：密度函数⎩⎨⎧≤=−.0,0;0,e)(xxxpxλλ特征函数为ivivdxdxvxivxivxivx−=−−⋅==⋅=+∞−−∞+−−∞+−∫∫λλλλλλϕλλλ0)(0)(0)(eeee)(；（6）标准正态分布N(0,1)：密度函数+∞∞−=−xxpx,eπ21)(22，特征函数为222)(22222222eeeπ21eπ21eπ21e)(vvivxivxxxivxdxdxdxv−∞+∞−−−−∞+∞−−−∞+∞−−=⋅==⋅=∫∫∫ϕ．特征函数具有以下性质：5（1）|ϕ(v)|≤ϕ(0)=1；（2）)()(vvϕϕ=−，其中)(vϕ表示的ϕ(v)共轭；（3）设a,b为常数，则ϕaX+b(v)=eibvϕX(av)；（4）若X与Y相互独立，则ϕX+Y(v)=ϕX(v)⋅ϕY(v)；（5）若X的l阶矩存在，则X的特征函数l阶可导，且对1≤k≤l，有ϕ(k)(0)=ikE(Xk)；（6）随机变量的分布函数由其特征函数唯一确定．证：（1）ϕ(0)=E(e0)=1，且|ϕ(v)|=|E(eivX)|≤E(|eivX|)=E(1)=1=ϕ(0)；（2）)()(e)e()(e)(e)()(vEEEEvivXivXivXXviϕϕ=====−−−；（3）ϕaX+b(v)=E[eiv(aX+b)]=E(eiavX⋅eivb)=eivbE(eiavX)=eibvϕX(av)；（4）因X与Y相互独立，则ϕX+Y(v)=E[eiv(X+Y)]=E(eivX⋅eivY)=E(eivX)E(eivY)=ϕX(v)⋅ϕY(v)；（5）因ϕ(k)(v)=E[(iX)k⋅eivX]，则ϕ(k)(0)=E[(iX)k]=ikE(Xk)；（6）证略．注：性质（4）可推广到多个随机变量，设X=X1+X2+…+Xn，且X1,X2,…,Xn相互独立，则)()()()(21vvvvnXXXXϕϕϕϕL=．常用分布的特征函数补充：（1）二项分布b(n,p)：概率函数nkppknkXPknk,,2,1,0,)1(}{L=−⎟⎟⎠⎞⎜⎜⎝⎛==−，即X表示n重伯努利试验中事件A的发生次数．设⎩⎨⎧=.,0;,1不发生次试验事件第发生次试验事件第AiAiXi有X=X1+X2+…+Xn，且X1,X2,…,Xn相互独立．因Xi服从0-1分布，P{Xi=1}=p，P{Xi=0}=1−p，特征函数为)1(e)(ppvivXi−+=ϕ，故X的特征函数为nivXXXXppvvvvn)]1(e[)()()()(21−+==ϕϕϕϕL；（2）正态分布N(µ,σ2)：密度函数