高阶统计量信号处理方法

现代信号处理——高阶统计量信号处理方法SignalProcessingwithHigher-orderStatistics授课教师：吴嗣亮教授联系方式：四号教学楼106专题内容一、概述......................................................1二、高阶统计量的定义、性质和估计..............................5(一)高阶矩、高阶累积量及其谱............................................................5（二）高阶累积量与高阶谱的性质.......................................................11（三）高阶累积量与高阶谱的估计.......................................................19三、非最小相位系统的辨识.....................................21（一）基本问题.......................................................................................21(二)MA系统的辨识................................................................................25(三)ARMA系统的辨识...........................................................................35四、谐波恢复.................................................42(一)基本问题..........................................................................................42(二)谐波恢复的高阶累积量方法..........................................................43五、空间窄带信号源的波达方向估计.............................46(一)基本问题..........................................................................................46(二)基于二阶统计量的DOA估计方法及其不足...............................47(三)基于高阶统计量的DOA估计方法................................................53一、概述高阶统计量(Higher-orderStatistics)是指比二阶统计量更高阶的随机变量或随机过程的统计量。二阶统计量有：¾随机变量（矢量）：方差、协方差（相关矩）、二阶矩。¾随机过程：自相关函数、功率谱、互相关函数、互功率谱、自协方差函数等。高阶统计量有：¾随机变量（矢量）：高阶矩(Higher-orderMoment)，高阶累积量(Higher-orderCumulant)。¾随机过程：高阶矩、高阶累积量、高阶谱(Higher-orderSpectra,Polyspectra)。从统计学的角度，对正态分布的随机变量（矢量），用一阶和二阶统计量就可以完备地表示其统计特征。如对一个高斯分布的随机矢量，知道了其数学期望和协方差矩阵，就可以知道它的联合概率密度函数。对一个高斯随机过程，知道了均值和自相关函数（或自协方差函数），就可以知道它的概率结构，即知道它的整个统计特征。但是，对不服从高斯分布的随机变量（矢量）或随机过程，一阶和二阶统计量不能完备地表示其统计特征。或者说，信息没有全部包含在一、二阶统计量中，更高阶的统计量中也包含了大量有用的信息。高阶统计量信号处理方法，就是从非高斯信号的高阶统计量中提取信号的有用信息，1特别是从一、二阶统计量中无法提取的信息的方法。从这个角度来说，高阶统计量方法不仅是对基于相关函数或功率谱的随机信号处理方法的重要补充，而且可以为二阶统计量方法无法解决的许多信号处理问题提供手段。可以毫不夸张地说，凡是使用功率谱或相关函数进行过分析与处理，而又未得到满意结果的任何问题，都值得重新试用高阶统计量方法。高阶统计量的概念于1889年提出。高阶统计量的研究始于六十年代初，主要是数学家和统计学家们在做基础理论的研究，以及针对光学、流体动力学、地球物理、信号处理等领域特定问题的应用研究。直到八十年代中、后期，在信号处理和系统理论领域才掀起了高阶统计量方法的研究热潮。标志性的事件有：1.K.S.Lii,M.Rosenblatt“DeconvolutionandEstimationofTransferFunctionPhaseandCoefficientsfornon-GaussianLinearProcesses”.Ann.Statistcs,Vol.10,pp.1195-1208,1982首次用高阶统计量解决了非昀小相位系统的盲辩识问题。2.C.L.Nikias,M.R.Raghuveer的综述文章“BispectrumEstimation:ADigitalSignalProcessingFramework”在Proc.IEEE发表，1987July.3.1989、1991、1993、1995、1997、1999年举办了六届关于高阶统计量的信号处理专题研讨会（海军研究办公室，NSF，IEEEControlSystemSociety,IEEEASSPSociety,IEEEGeoscienceandRemotesensingSociety）。4.IEEETrans.onAC1990年1月专辑。5.IEEETrans.onASSP1990年7月专辑。26.J.M.Mendel的综述文章”TutorialonHigher-OrderStatistics(Spectra)inSignalProcessingandSystemTheory:TheoreticalResultsandSomeApplications”.Proc.IEEE,1991(主要是关于非昀小相位系统辨识)。7.C.L.Nikias&A.P.Petropula的专著Higher-orderSpectralAnalysis:ANonlinearProcessingFramework,由Prentice-Hall1993出版。8.SignalProcessing,19944月专辑。9.Circuits,Systems,andSignalProcessing,1994.6月专辑。高阶统计量方法已在雷达、声纳、通信、海洋学、电磁学、等离子体物理、结晶学、地球物理、生物医学、故障诊断、振动分析、流体动力学等领域的信号处理问题中获得应用。典型的信号处理应用包括系统辨识与时间序列分析建模、自适应估计与滤波、信号重构、信号检测、谐波恢复、图像处理、阵列信号处理、盲反卷积与盲均衡等。在信号处理中使用高阶统计量的主要动机可以归纳成四点：1、抑制未知功率谱的加性有色噪声的影响。2、辨识非昀小相位系统或重构非昀小相位信号。自相关函数或功率谱是相盲的，即不包含信号或系统的相位信息。仅当系统或信号是昀小相位时，二阶统计量的方法才能获得正确的结果。相反，高阶统计量既包含了幅度信息，又保留了信号的相位信息，因而可以用来解决非昀小相位系统的辨识或非昀小相位信号的重构问题。3、提取由于高斯性偏离带来的各种信息对于非高斯信号，其高阶统计量中也包含了大量的信息。对模式识别、3信号检测、分类等问题，有可能从高阶统计量获得信号的显著分类特征。4、检测和表征信号中的非线性以及辨识非线性系统。如用来解决非线性引起的二次、三次相位耦合问题。参考资料：1、张贤达，《时间序列分析－高阶统计量方法》，清华大学出版社，1996。2、沈凤麟等,《生物医学随机信号处理》（第9章），中国科学技术大学出版社，1999。3、J.M.Mendel.“TutorialonHigher-orderStatistics(Spectra)inSignalProcessingandSystemsTheory:TheoreticalResultsandSomeApplications”.Proc.IEEE,Vol.79,pp.278-305,19914、C.L.Nikias&A.P.Petropulu.Higher-orderSpectralAnalysis:ANonlinearProcessingFramework.Prentice-Hall.19935、C.L.Nikias&J.M.Mendel.“SignalProcessingwithHigher-orderSpectra”.IEEESignalProcessingMagazine，Vol.10,July,pp.10-37,19936、C.L.Nikias&M.R.Raghuveer.“BispectrumEstimation:ADigitalSignalProcessingFramework”.Proc.IEEE,Vol.75,pp.869-891,19877、P.A.Delaney&D.O.Walsh.“ABibliographyofHigher-OrderSpectraandCumulants”.IEEESignalProcessingMagazine,Vol.11July,pp.61-70,19948、J.A.Cadzow.“BlindDeconvolutionviaCumulantExtrema”.IEEESignalProcessingMagazine,Vol.13,No.3,pp.24-42,19969、二、高阶统计量的定义、性质和估计(一)高阶矩、高阶累积量及其谱（从随机变量→随机矢量→随机过程）1、随机变量的特征函数与累积量定义：设随机变量x具有概率密度f(x)，其特征函数定义为{}sxsxeEdxexfs==Φ∫+∞∞−)()(其中s为特征函数的参数。（可看作f(x)的拉普拉斯变换）特征函数Φ(s)只是参数s的函数。对Φ(s)求k次导数，可得{}sxkkexEs=Φ)(因此{}kkkmxE==Φ)0(也就是说Φ(s)在原点的k阶导数等于x的k阶矩mk。因此，Φ(s)也称作矩生成函数（又叫第一特征函数）。矩生成函数可以唯一地、完全地确定一个概率分布。这可由矩生成函数唯一性定理阐明：定理：设F(x)和G(x)是具有相同矩生成函数的分布函数，即：∫∫∞∞−∞∞−=)()(xdGexdFesxsx则F(x)≡G(x)5由矩生成函数可以定义随机变量x的累积量生成函数（又叫第二特征函数）及累积量。定义：设随机变量x的矩生成函数为Φ(s)，则函数)(ln)(ssΦ=Ψ称为x的累积量生成函数，而ψ(s)在原点的k阶导数0)(==skkkdssdcψ称为x的k阶累积量。如果将Φ(s)和ψ(s)展开成Taylor级数，根据以上定义，就会有+++++=Φkksmksmsms!1211)(221++++=Ψkksckscscs!121)(221也就是说，x的k阶矩和累积量分别是其矩生成函数和累积量生成函数的Taylor级数展开中sk项的系数。2、随机矢量的特征函数与累积量定义：令x=[x1,x2,…,xk]T是一随机矢量，且s=[s1,s2,…,sk]T，则随机矢量x的矩生成函数定义为(){}{}xsxsxsxskTkkeEeEsss==Φ+++2211,,,216x的累积量生成函数定义为ψ(s1,s2,…,sk)=lnΦ(s1,s2,…,sk)x