《随机过程》第1章-预备知识.

随机过程第一章预备知识1概率空间2随机变量3特征函数、母函数4随机向量5条件期望基本概念-代数概率空间1概率空间中南民族大学经济学院《随机过程》第1章-预备知识2背景随机现象定义举例研究工具事前不可预言的现象，即在相同条件下重复进行试验，每次结果未必相同，或知道事物过去的状况，但未来的发展却不能完全肯定。抛置硬币概率论和统计确定现象定义举例研究工具事前可预言的现象，即在准确地重复某些条件下，它的结果总是肯定的。在一个标准大气压下给水加热到100℃便会沸腾质量守恒定律、牛顿定律数学分析、几何、代数、微分方程等独立事件-代数概率空间背景独立事件中南民族大学经济学院《随机过程》第1章-预备知识3随机试验：可重复、可预见、不确定样本空间：随机试验所有可能结果的集合𝜴样本点：𝒆∈𝜴事件：𝑨⊆𝜴基本事件：只包含一个样本点的事件必然事件：𝜴不可能事件：𝝓事件运算：并、交、差、（上、下）极限1概率空间基本概念-代数概率空间背景独立事件例：抛掷一枚骰子，观察出现的点数。中南民族大学经济学院4《随机过程》第1章-预备知识1概率空间基本概念骰子“出现1点”,“出现2点”,…,“出现6点”,“点数不大于6”,“点数为偶数”等都为随机事件.𝛺=1,2,3,4,5,6𝐴=1,3,5⊆Ω𝐵=2,4,6⊆Ω-代数概率空间背景独立事件例：观察某路公交车某站候车人数。中南民族大学经济学院5《随机过程》第1章-预备知识1概率空间基本概念𝐵=至少0人候车=𝛺,为必然事件𝐶=至少1.5人候车=𝜙,为不可能事件，𝜙不包含任何样本点。𝛺=0,1,2,⋯记𝐴=至少10人候车=10,11,12,⋯⊂Ω，A为随机事件，A可能发生，也可能不发生。基本概念概率空间背景独立事件中南民族大学经济学院《随机过程》第1章-预备知识6定义：集合𝛺的某些子集组成集合族ℱ（1）𝛺∈ℱ（必然事件）（2）若𝐴∈ℱ,则𝐴𝐶∈ℱ,𝐴𝐶=𝛺\𝐴(对立事件）（3）若𝐴𝑖∈ℱ,𝑖∈𝑁，则𝐴𝑖∞𝑖=1∈ℱ(可列并事件）则称ℱ为-代数，(𝛺,ℱ)为可测空间。1概率空间-代数基本概念概率空间背景独立事件例：抛掷一枚骰子，𝑒𝑖表示出现𝑖点。中南民族大学经济学院7《随机过程》第1章-预备知识1概率空间𝛺=𝑒1,𝑒2,𝑒3,𝑒4,𝑒5,𝑒6ℱ=𝜙,𝑒1,𝑒2,𝑒3,𝑒4,𝑒5,𝑒6,Ω-代数ℱ为-代数，𝛺,ℱ为可测空间𝓕=𝝓,𝜴𝓕=𝜴的所有子集的集合基本概念概率空间背景独立事件例：连续投掷两次硬币试验。中南民族大学经济学院8《随机过程》第1章-预备知识1概率空间𝛺=正正，正反，反正，反反-代数ℱ1=𝜙,正正,正反,反正,反反,Ωℱ2=𝜙,正正,正反,正正,正反,反正,反反,正反,反正,反反,正正,反正,反反,正正,正反,反正,反反ℱ3=𝜙,反正,反反,反正,反反,正正,正反,正正,正反,反正,正正,正反,反反,正正,正反,反正,反反ℱ4=𝜙,正反,正正,反正,反反,Ω基本概念概率空间背景独立事件中南民族大学经济学院《随机过程》第1章-预备知识9设(𝛺,ℱ)为可测空间,则•𝜙∈ℱ（不可能事件）•若𝐴,𝐵∈ℱ,则𝐴\𝐵∈ℱ（差事件）•若𝐴𝑖∈ℱ,则𝐴𝑖𝑛𝑖=1,𝐴𝑖𝑛𝑖=1,𝐴𝑖∞𝑖=1∈ℱ（有限并，有限交，可列交事件）1概率空间-代数可测空间性质-代数基本概念背景独立事件中南民族大学经济学院《随机过程》第1章-预备知识10定义：设(𝛺,ℱ)为可测空间,映射𝑃:ℱ→ℝ,𝐴→𝑃𝐴满足：（1）∀𝐴∈ℱ,0≤𝑃𝐴≤1（2）𝑃Ω=1（3）𝑃𝐴𝑖∞𝑖=1=𝑃𝐴𝑖∞𝑖=1,𝐴𝑖∩𝐴𝑗=𝜙,𝑖≠𝑗则称𝑃是(𝛺,ℱ)上的一个概率测度（简称概率），(𝛺,ℱ,𝑃)为概率空间，𝑃𝐴为事件𝐴的概率。1概率空间概率空间非负性规一性可列可加性-代数基本概念背景独立事件中南民族大学经济学院《随机过程》第1章-预备知识11性质：设(𝛺,ℱ,𝑃)为概率空间,则：1𝑃𝜙=02𝑃𝐵\A=𝑃𝐵−𝑃𝐴,𝐴⊆𝐵3lim𝑛→∞𝑃𝐴𝑛=𝑃𝐴𝑛∞𝑛=1,𝐴1⊆𝐴2⊆⋯⊆𝐴𝑛𝑃𝐴𝑛∞𝑛=1,𝐴1⊇𝐴2⊇⋯⊇𝐴𝑛1概率空间概率空间-代数基本概念背景独立事件例：袋中有2个红球，3个白球，从中不放回的接连取出两个球。求第二次取出红球的概率。中南民族大学经济学院12《随机过程》第1章-预备知识1概率空间概率空间解：设𝐴1表示第一次取出红球，𝐴2表示第一次取出白球，𝐵表示第二次取出红球，则有：𝑃𝐵=𝑃𝐵𝐴1+𝑃𝐵𝐴2=𝑃𝐵|𝐴1𝑃𝐴1+𝑃𝐵|𝐴2𝑃𝐴2=14∗25+24∗35=25概率空间-代数基本概念背景中南民族大学经济学院《随机过程》第1章-预备知识13定义：设𝛺,ℱ,𝑃为概率空间，ℱ1⊆ℱ，若对任意𝐴1,𝐴2,⋯,𝐴𝑛∈ℱ1,𝑛=2,3,⋯，有𝑃𝐴𝑖𝑛𝑖=1=𝑃𝐴𝑖𝑛𝑖=1则称ℱ1为独立事件族,或称ℱ1中的事件相互独立。事件𝐴，𝐵独立，有𝑃𝐴𝐵=𝑃𝐴𝑃𝐵事件𝐴，𝐵，𝐶相互独立，有𝑃𝐴𝐵=𝑃𝐴𝑃𝐵𝑃𝐴𝐶=𝑃𝐴𝑃𝐶𝑃𝐵𝐶=𝑃𝐵𝑃𝐶𝑃𝐴𝐵𝐶=𝑃𝐴𝑃𝐵𝑃𝐶1概率空间独立事件随机过程第一章预备知识1概率空间2随机变量3特征函数、母函数4随机向量5条件期望数字特征常见分布中南民族大学经济学院《随机过程》第1章-预备知识15定义：设𝛺,ℱ,𝑃为概率空间，𝑋是定义在𝛺上取值于实数集ℝ的函数，如果满足∀𝑥∈ℝ,𝜔:𝑋𝜔≤𝑥∈ℱ则称𝑋𝜔是ℱ上的随机变量，简记𝑋。对𝑥∈ℝ，称𝐹𝑥=𝑃𝜔:𝑋𝜔≤𝑥为随机变量𝑋的分布函数。2随机变量基本概念数字特征常见分布例：投掷两枚硬币试验。中南民族大学经济学院16《随机过程》第1章-预备知识2随机变量𝛺=正正，正反，反正，反反ℱ=𝜙正正,正反,反正,反反正正,正反,正正,反正,正正,反反,正反,反正,正反,反反,反正,反反正正,正反,反正,正正,正反,反反,正正,反正,反反,正反,反正,反反正正，正反，反正，反反映射𝑋:Ω→ℝ，𝑋正正=2，𝑋正反=𝑋反正=1，𝑋反反=0𝜔:𝑋𝜔≤𝑥=𝜙∈ℱ,𝑥0反反∈ℱ,0≤𝑥1正反,反正,反反∈ℱ,1≤𝑥2正反,反正,反反,正正∈ℱ,𝑥≥2分布函数为：𝐹𝑥=𝑃𝜔:𝑋𝜔≤𝑥=𝑃𝜙=0,𝑥0𝑃反反=14,0≤𝑥1𝑃正反,反正,反反=34,1≤𝑥2𝑃正反,反正,反反,正正=1,𝑥≥2𝑃𝜙=0,𝑃正正=𝑃正反=𝑃反正=𝑃反反=14,⋯,𝑃Ω=1𝑋为随机变量基本概念数字特征常见分布中南民族大学经济学院《随机过程》第1章-预备知识17分布函数的性质：（1）单调性：若𝑥1𝑥2，则𝐹𝑥1≤𝐹𝑥2（2）𝐹−∞=lim𝑥→−∞𝐹𝑥=0,𝐹+∞=lim𝑥→+∞𝐹𝑥=1（3）𝐹𝑥右连续，𝐹𝑥+0=𝐹𝑥这三个性质完全刻划了分布函数2随机变量基本概念数字特征常见分布中南民族大学经济学院《随机过程》第1章-预备知识182随机变量离散型随机变量连续型随机变量分布律：𝑃𝑋=𝑥𝑘=𝑝𝑘,𝑘=1,2,⋯分布函数：𝐹𝑥=𝑝𝑘𝑥𝑘≤𝑥概率密度：𝑓𝑥分布函数：𝐹𝑥=𝑓𝑡𝑑𝑡𝑥−∞基本概念基本概念数字特征中南民族大学经济学院《随机过程》第1章-预备知识192随机变量常见分布分布分布律期望方差0-1分布𝑃𝑋=1=𝑝,𝑃𝑋=0=𝑞0𝑝1,𝑝+𝑞=1𝑝𝑝𝑞二项分布𝑃𝑋=𝑘=𝐶𝑛𝑘𝑝𝑘𝑞𝑛−𝑘0𝑝1,𝑝+𝑞=1,𝑘=0,1,⋯,𝑛𝑛𝑝𝑛𝑝𝑞泊松分布𝑃𝑋=𝑘=𝜆𝑘𝑘!𝑒−𝜆,𝜆0,𝑘=0,1,⋯𝜆𝜆几何分布𝑃𝑋=𝑘=𝑝𝑞𝑘−10𝑝1,𝑝+𝑞=1,𝑘=1,2,⋯1𝑝𝑞𝑝2负二项分布𝑃𝑋=𝑗=𝐶𝑗−1𝑘−1𝑝𝑘𝑞𝑛−𝑘0𝑝1,𝑝+𝑞=1,𝑗≥𝑘𝑘𝑝𝑘𝑞𝑝2离散均匀分布𝑃𝑋=𝑎+𝑖𝑏−𝑎𝑛=1𝑛+1,𝑖=0,1,⋯,𝑛𝑎+𝑏2𝑛+2𝑏−𝑎212𝑛常见的离散型随机变量基本概念数字特征中南民族大学经济学院《随机过程》第1章-预备知识202随机变量常见分布常见的连续型随机变量分布概率密度期望方差均匀分布𝑓𝑥=1𝑏−𝑎,𝑎𝑥𝑏0,其他𝑎+𝑏2𝑏−𝑎212正态分布𝑓𝑥=12𝜋𝜎𝑒𝑥𝑝−𝑥−𝑎22𝜎2𝑎𝜎2指数分布𝑓𝑥=𝜆𝑒−𝜆𝑥𝑢𝑥,𝜆01𝜆1𝜆2瑞利分布𝑓𝑥=𝑥𝜎2𝑒𝑥𝑝−𝑥22𝜎2𝑢𝑥,𝜎0𝜋2𝜎2−𝜋2𝜎2𝛤分布𝑓𝑥=𝛽𝛼𝛤𝛼𝑥𝛼−1𝑒−𝛽𝑥𝑢𝑥,𝛼,𝛽0𝛼𝛽𝛼𝛽2𝜒2分布𝑓𝑥=𝑥𝑁2−12𝑁2𝛤𝑁2𝑒−𝑥2𝑢𝑥,𝑁0𝑁2𝑁𝛽分布𝑓𝑥=𝛤𝛼+𝛽𝛤𝛼𝛤𝛽𝑥𝛼−11−𝑥𝛽−1,0𝑥10,其它,𝛼,𝛽0𝛼𝛼+𝛽𝛼𝛽𝛼+𝛽2𝛼+𝛽+1基本概念常见分布中南民族大学经济学院《随机过程》第1章-预备知识21定义：设随机变量𝑋的分布函数为𝐹𝑥，若𝑥𝑑𝐹𝑥+∞−∞∞则称𝐸𝑋=𝑥𝑑𝐹𝑥+∞−∞为𝑋的数学期望（均值）。2随机变量数字特征数学期望离散型随机变量连续型随机变量分布律：𝑃𝑋=𝑥𝑘=𝑝𝑘,𝑘=1,2,⋯数学期望：𝐸𝑋=𝑥𝑘𝑝𝑘∞𝑘=1概率密度：𝑓𝑥数学期望：𝐸𝑋=𝑥𝑓𝑥𝑑𝑥+∞−∞基本概念常见分布中南民族大学经济学院《随机过程》第1章-预备知识22方差：设随机变量𝑋，若𝐸𝑋2∞，则称𝐷𝑋=𝑉𝑎𝑟𝑋=𝐸𝑋−𝐸𝑋2=𝐸𝑋2−𝐸𝑋2为𝑋的方差。协方差：设随机变量𝑋,𝑌，若𝐸𝑋2∞,𝐸𝑌2∞，则称𝐵𝑋𝑌=𝐶𝑜𝑣𝑋,𝑌=𝐸𝑋−𝐸𝑋𝑌−𝐸𝑌=𝐸𝑋𝑌−𝐸𝑋𝐸𝑌为𝑋,𝑌的协方差。2随机变量数字特征方差&协方差基本概念常见分布中南民族大学经济学院《随机过程》第1章-预备知识23定义：设随机变量𝑋,𝑌，称𝜌𝑋𝑌=𝐶𝑜𝑣𝑋,𝑌𝐷𝑋𝐷𝑌为𝑋,𝑌的相关系数。2随机变量数字特征相关系数☆若𝜌𝑋𝑌=0，则称𝑋,𝑌不相关。☆相关系数表示𝑋,𝑌之间的线性相关程度的大小基本概念常见分布中南民族大学经济学院《随机过程》第1章-预备知识24(1)𝐸𝑎𝑋+𝑏𝑌=𝑎𝐸𝑋+𝑏𝐸𝑌(2)若X,Y独立，则𝐸𝑋𝑌=𝐸𝑋𝐸𝑌(3)若X,Y独立，则𝐷𝑎𝑋+𝑏𝑌=𝑎2𝐷𝑋+𝑏2𝐷𝑌(4)(Schwarz不等式)若𝐸𝑋2,𝐸𝑌2，则𝐸2𝑋𝑌𝐸𝑋2𝐸𝑌22随机变量数字特征性质随机过程第一章预备知识1概率空间2随机变量3特征函数、母函数4随机向量5条件期望常见分布矩母函数特征函数母函数3特征函数、母函数中南民族大学经济学院《随机过程》第1章-预备知识26常用变换常用的数学变换提示：复分析、积分变换是随机过程讨论重要的工具𝑬𝒖𝒍𝒆𝒓公式：𝑒𝑖𝑥=cos𝑥+𝑖sin𝑥𝒁变换：𝑍𝑥𝑛=𝑥𝑛𝑍−𝑛+∞𝑛=−∞,𝑍=𝑒𝜎+𝑖𝜔=𝑒𝜎cos𝜔+𝑖sin𝜔𝑳𝒂𝒑𝒍𝒂𝒄𝒆变换：ℒ𝑓𝑥=𝑓𝑥𝑒−𝑠𝑥𝑑𝑥,𝑠∈𝐶+∞0𝑭𝒐𝒖𝒓𝒊