中科院-现代数字信号处理课件-完全版

现代数字信号处理信息科学与工程学院现代数字信号处理第一章预修课程概率论与数理统计信号与系统数字信号处理1随机过程课程讨论的主要问题－1对信号特性的分析研究对象：确定性信号－随机信号；研究目的：提取信号中的有用信息；主要内容：随机信号的统计特性；随机信号的参数建模；功率谱估计（经典谱估计和现代谱估计）；时频分析（短时傅立叶变换、维格纳变换、小波变换）-101RealpartSignalintime0797515951LinearscaleEnergyspectraldensity5010015020025030035000.10.20.30.4|STFT|2,Lh=48,Nf=192,lin.scale,contour,Thld=5%Time[s]Frequency[Hz]1121232sin(),01()sin(),1sin(),1nnNxnnNnNnNnN课程讨论的主要问题－2信号处理技术研究目的：提高信号质量；主要内容：维纳滤波理论（平稳条件下）；卡尔曼滤波理论（非平稳条件下）；自适应滤波理论；课程特点现代数字信号处理的基本概念、基本理论和分析方法；结合有关问题，介绍其在相关领域的应用。课程讲述线索本课程采用对不同处理对象的线索来讲解：确定性信号－随机信号；平稳信号处理－非平稳信号处理;时域－频域－时频分析;根据处理对象和应用背景的不同而选择相应的处理方法课程主要内容第一章时域离散随机信号的分析第二章维纳滤波和卡尔曼滤波第三章自适应数字滤波器第四章功率谱估计第五章时频分析成绩评定课堂成绩闭卷考试教材及参考书教材：张贤达，《现代信号处理》第二版，清华大学出版社，北京，2002。丁玉美，《数字信号处理—时域离散随机信号处理》，西安电子科技大学出版社，2002。参考书：胡广书，《数字信号处理－理论、算法与实现》第二版，清华大学出版社，北京，2003。RobertoCristi,ModernDigitalSignalProcessing,Thomson-Brooks/Cole，2004。DimitrisG.Manolakis,etc,StatisticalandAdaptiveSignalProcessing,McGrawHill,2000。第一章时域离散随机信号的分析1.1随机信号1.2时域统计表达1.3Z域及频域的统计表达1.4随机序列数字特征的估计1.5平稳随机序列通过线性系统1.6时间序列信号模型1.1随机信号信号的分类随机变量及其统计描述随机信号及其统计描述1.1.1信号的分类信号的分类：确定性信号随机信号平稳随机信号非平稳随机信号1.1.2随机变量随机变量的统计描述：概率分布函数：概率密度函数：均值（一阶矩）：均方值（二阶原点矩）：方差（二阶中心矩）：协方差：()Pr()()xFxobabilityXxfxdx()()fxdFxdx[]()EXxfxdx222[]()DEXxfxdx222[]()EXxfxdx***cov[,][()()][][][]XYXYEXYEXYEXEY几种特殊分布的随机变量的概率密度：均匀分布：高斯分布：N个实随机变量的联合高斯分布的概率密度：1()fxbaaxb22211()exp[()]22fxx12,,,TNXxxx1211()[(2)]exp[()()]2NTfXXX12[,,,]NTxxx2112122122212[()()]cov[,]cov[,]cov[,]cov[,]cov[,]cov[,]TNNNNNEXXxxxxxxxxxxxx其中，1.1.3随机信号实际应用中，常常把随时间变化而变化的随机变量，称为随机过程。随机信号的特点：在任何时间的取值都是随机的（不能确切已知）取值服从概率分布规律（统计特性确定，但未知）随机信号定义：一个随机信号X(t)是依赖时间t的一族随机变量，或者说它是所有可能的样本函数的集合。x1(t)x2(t)xn(t)tttt1tn图1.1.1n部接收机的输出噪声X(t)={xi(t),i=1,2,3,…}X(t)是所有可能样本函数的集合X(t1)={xi(t1),i=1,2,3,…}X(t)={X(t1),X(t2),X(t3),…}X(t)是依赖时间t的一族随机变量如果对随机信号X(t)进行等间隔采样，或者说将X(t)进行时域离散化,得到随机变量X(t1),X(t2),X(t3),…,所构成的集合称为时域离散随机信号。用n取代tn，随机序列用X(n)表示，即随机序列是随n变化的随机变量序列。x1(n)x2(n)xn(n)nnn图1.1.2n部接收机输出噪声的时域离散化X(n)是依赖时间n的一族随机变量样本函数xi(t)或样本序列xi(n)随机信号X(t)或X(n)随机变量{X(t1),X(t2),X(t3),…}特定时刻随机信号的统计描述：一维概率分布函数：一维概率密度函数：上述两式只描述随机序列在某一时刻n的统计特性，而对于随机序列，不同n的随机变量之间并不是孤立的。(,)()nXnnnFxnPXx(,)(,)nnXnXnnFxnfxnx二维概率分布函数:,(,,,)(,)nmXXnmnnmmFxnxmPXxXx对于连续随机变量,其二维概率密度函数为2,,,,(,,)(,,)nmnmXXnmXXnmnmFxnxmfxnxmxx以此类推,N维概率分布函数为12,,121122(,1,,2,,)(,,,)NXXXNNNFxxxPXxXxXx对于连续随机变量,其N维概率密度函数为1212,,,12,,,1212(,1,,2,,,)(,1,,2,,,)NNNXXXNXXXNNFxxxNfxxxNxxx数学期望(统计平均值):均方值:方差：222()[()]|()|(,)dnxXDnEXnxnfxnx2222()[()()][||]()xxnxnEXnnEXn一般均值、均方值和方差都是n的函数,但对于平稳随机序列,它们与n无关,是常数。式中E表示求统计平均值,体现了信号的集合平均。()[()]()(,)dnxXnEXnxnfxnx11()[()]lim(,)NxNinEXnxniN连续形式：离散形式：自相关函数：自协方差函数：**(,)[()()](,)mnmnxxmnmxnxxxxxCXXEXXRmn对于零均值随机序列，(,)(,)xxmnxxCXXRmn这种情况下，自相关函数和自协方差函数没有什么区别。**,(,)[](,,,)mnxxmnmnXXmnmnRmnEXXxxfxmxndxdx0mnxx，则互相关函数定义为互协方差函数定义为**(,)[()()](,)mnnmxymnmxnyxyxyCXYEXYRmn同样,当时，如果C(Xm,Yn)=0，则称信号Xm与Yn互不相关。0mnxy(,)(,)xymnxyCXYRmn**,(,)[](,,,)mnxymnmnXYmnmnRmnEXYxyfxmyndxdy1.2平稳随机信号的时域统计表达平稳随机信号的定义平稳随机信号相关函数的性质平稳随机信号的各态遍历性1.2.1平稳随机信号的定义狭义(严)平稳随机序列：随机信号的统计特性不随时间平移而变化。广义(宽)平稳随机序列：随机信号的均值和方差不随时间变化而变化，其相关函数与时间起点无关，仅是时间差的函数。1212,,,12,,,12(,1,,2,,,)(,1,,2,,,)NNXkXkXkkkNkXXXNFxkxkxNkFxxxN均值、方差和均方值均与时间无关：222222[()][()][||][||][||][||]xxnnmxnxnmxExnExnmDEXEXExmEx自相关函数与自协方差函数是时间差的函数:***()[][]()[()()]xxnnmnnmxxnxnmxRmEXXEXXCmEXX对于两个各自平稳且联合平稳的随机序列,其互相关函数为*()(,)[]nmxyxynRmRnnmEXY显然,对于自相关函数和互相关函数,下面公式成立:**()()()()xxxxxyyxRmRmRmRm如果对于所有的m，满足公式：Rxy(m)=0，则称两个随机序列互为正交。如果对于所有的m，满足公式:Cxy(m)=0，则称两个随机序列互不相关。Rxx(m)是Hermitian对称的1.2.2实平稳随机信号相关函数的性质（1）自相关函数和自协方差函数是m的偶函数,用下式表示:()(),()()()(),()()xxxxxxxxxyyxxyyxRmRmCmCmRmRmCmCm（2）Rxx(0)数值上等于随机序列的平均功率：2(0)[]xxnrEX（3）相关性随时间差的增大越来越弱：(0)|()|xxxxRRm（4）大多数平稳随机序列内部的相关性随着时间差的变大，愈来愈弱：2lim()xxxmRmlim()xyxymRm（5）22()(),(0),lim()0xxxxxxxxxxmCmRmCCm()xxRm()xxCm2x2()xDm2()xm的特性的特性()xxRm()xxCmmm1.2.3平稳随机信号的各态遍历性集合平均：由随机序列X(n)的无穷样本在相应时刻n对应相加来实现的。11()[()]lim(,)NxNinEXnxniN(,),1,2,,xnii**11(,)[()()]lim(,)(,)NxxNiRmnEXmXnxmixniN由上可知，集合平均要求对大量的样本进行平均,实际中这种做法是不现实的。时间平均：设x(n)是平稳随机序列X(n)的一条样本曲线，其时间平均值为1()lim()21NNnNxnxnN类似地，其时间自相关函数为**1()()lim()()21NNnNxnxnmxnxnmN各态遍历性：对一平稳随机信号，如果它的所有样本函数在某一固定时刻的一阶和二阶统计特性（集合平均）和单一样本函数在长时间内的统计特性（时间平均）一致，则称其为各态遍历信号。意义：单一样本函数随时间变化的过程可以包括该信号所有样本函数的取值经历。直观理解：只要一个实现时间充分长的过程能够表现出各个实现的特征，就可以用一个实现来表示总体的特性。〈x(n)〉=E［X(n)］〈x(n)x*(n+m)〉=E［X(n)X*(n+m)］1.3平稳随机信号的Z域及频域的统计表达相关函数的Z变换平稳随机信号的功率密度谱1.3.1相关函数的Z变换平稳随机序列是非周期函数，且是能量无限信号，无法直接利用傅里叶变换进行分析。由前面对自相关函数和自协方差函数的讨论可知：当时，Rxx(m)是收敛序列。这说明虽然无限能量信号本身的z变换与傅氏变换不存在，但它的自协方差序列和自相关序列（当时）的z变换与傅氏变换却是存在的,其Z变换用Pxx(z)表示如下:2lim()0lim()xxmxxxmCmRm0x0x()()mxxxxPzRmz11()()d2mxxxxcRmPzzzj且*()()xxxxRmRm因为将上式进行Z变换，得到：**1()xxxxPzPz如果z1是其极点，1/z*1也是极点。Pxx(z)的收敛域包含单位圆，因此Rxx(m)的傅里叶变换存在。令z=exp(jω),可以得到Rxx(