3统计与自适应信号处理

1信号包括：确定性信号和随机信号。确定性信号，可以清楚的用数学关系描述的信号。也就是说可以用过去的观察来预测未来值。随机信号，以不可预见的方式实时产生，他们的统计特性可以假定为确定的，他们可以用明确的数学方程式表示。●随信号的统计方面基本知识和处理方法进行介绍。●随机信号的应用：信号建模，最佳滤波器，自适应滤波器及其算法。●简要介绍高阶统计。随机信号的描述：矩，积累量，多谱平稳随机信号的前四阶矩：xxnxEr111*12lrlnxnxElrxx21*213,lnxlnxnxEllrx321**3214,,inxlnxlnxnxElllrx前两阶矩指均值和自相关序列，三阶矩表示倾斜率，表明随机变量与其中心分布的不对称程度。四阶矩度量峰度，表示出平均值附近密度函数的相对平坦程度或峰值程度，表明了偏离高斯过程的偏移量。零均值平稳过程的前四个积累量：xxnxE111*12lrlnxnxElxx21*213,lnxlnxnxEllx复数：1223213222321**3214,,llllllinxlnxlnxnxElllxxxxx实数：12232132221322223212321**3214,,llllllllllllinxlnxlnxnxElllxxxxxxxxx通常更为关心的是积累量，积累量也表明了与高斯过程的偏移量，（若概率分布对称，则三阶积累量为零）如果为高斯过程，则大于等于3阶的积累量为零。实际中一般考虑到四阶积累量，更高阶的很少用到。多谱是由积累量进行傅立叶变换得到的。（功率谱密度，双频谱，三频谱分别对应二阶，三阶，四阶积累量）。jxlljxjxeReleR111222122111212133,,llljljxjjxelleeR（双频谱）12333221132132144,,,,lllljljljxjjjxellleeeR（三频谱）随机信号包括高斯信号和非高斯信号。高斯过程统计特性完全由二阶矩决定（相关性和功率谱密度），非高斯过程不具有这种性质，需要高阶统计特性，这些高阶统计特性包含一些额外信息：可以量度与正态性的偏差。对信号分析的目的：提取用于理解信号产生过程的信息。所用的方法：谱估计和信号建模。信号滤波的目的：依照容许的性能标准改善信号质量（主要包括频率选择性滤波、自适应滤波和阵列处理等）。典型应用包括：噪声和干扰消除、回波消除、信道均衡、地震波解卷积、主动噪声控制等。对于高斯型随机信号，谱密度的应用比自相关更广泛。自相关是在时域中从噪声中提取有用信号，功率谱是在频域中从噪声中提取有用信号。确定性信号分类：能量信号域或功率信号、周期信号和非周期信号，有限和无限持续时间信号，因果（x(n)=0,n0时）和非因果信号以及奇或偶信号。信号分析目的：找到一种定量的方法，以研究信号的性质以及相同或不同源的两个或多个信号之间的差别与共同点。随机信号分析的主要应用领域：（1）信号振幅（即采样值）的统计分析，（2）单个信号的采样之间相关性的分析和建模，（3）联合信号分析（如，同时分析两个信号，研究他们之间的相互作用和相互关系）。信号分析的最主要工具是谱估计。谱估计是从一组观测中估计信号的能量和功率分布的一系列方法的统称。对信号进行表达：信号建模：含参数模型，采取一个完全由有限个参数确定的函数形式。非参数模型，不用对函数的形式或模型参数的数量加以任何限制自适应滤波器的目的是估计系统的参数或状态。第二章：离散时间信号处理基础对信号描述：时域--------频域（傅立叶变换）---------z变换（极点---零点模型）。连续时间信号------------离散时间信号（采样，采样频率至少是带宽的两倍（可以恢复出原来的连续信号））。离散时间系统的表示形式：时域分析：kknhkxnhnxny冲激响应变换域分析：ZXZHZYjjjeXeHeY频响函数3用线性、常系数差分方程描述的系统：Qkkpkkknxdknyany01Z平面内的零点极点位置的描述PkkkQkkkPkkQkkzazdzpzzGZAZDZH101111111涉及到的概念：相关性（提供两个信号的相似性）和谱密度：可以将输出信号的特性与系统和输入信号的响应特征联系起来。最小相位系统和可逆系统，全通系统（幅值响应=1）。最小相位系统：一个系统和它的逆系统都是因果的，稳定的，也就是说PZ系统的极点零点都在单位圆内。格型参数的模小于1.系统稳定性：有限输入产生有限输出。对于一个因果系统，所有极点都在单位圆内，就是稳定的。在单位圆上没有极点零点的任何因果系统都能分解：zHzHzHaomin（最小相位系统和全通系统）谱因式分解：可以从幅度响应或冲激响应的自相关确定最小相位系统。**minmin21zHzHGzRy其中22jjxeXeRG格型滤波器：格型参数和全极点滤波器系数一一对应。（用处？？）AZ格型结构和AP格型结构互为倒数。第三章：随机变量、矢量和序列主要介绍一些概念：随机变量x的特征函数：dxexfxeExjxjx矩的生成函数：dxexfeEssxxsxx即s代替j泰勒展开：mxmxxrmsrss!!2122若x的所有矩已知，则可以通过拉普拉斯反变换确定密度函数。积累量：矩的生成函数的自然对数的各阶导数。4常用随机变量：均匀分布，正态分布（由均值和方差进行描述），柯西分布。随机矢量的实际描述一般用统计平均量：平均矢量，矩阵的相关性和协方差。自相关：MMMMHxrrrrxxER1111自协方差：MMMMHxxxxxE1111独立与相关性、正交。独立不相关，不相关高斯分布独立。相关系数：jiijij，1ij，=1时，完全相似；=0时，不相关独立：jijixExExxE两个随机变量的相关系数，表明两个随机变量之间的统计相似程度。两个随机矢量相关性、协方差和正交性。稳定分布：分布经卷积运算（求和）保持不变。序列,nx：n固定，变化，随机变量；n变化，固定，样本序列，n，均变化，随机过程。随机信号的一些特性：平稳性，各态遍历性，记忆性。平稳性：如果一个随机过程knxnx，则是平稳的。各态遍历：从全体可能实现的集合中取一个具有代表性的实现来获得全部的统计信息。平均值，方差等由时间平均来计算统计平均。只有平稳信号才是各态遍历的。●具有平稳随机输入的线性系统：（用二阶统计特性进行表征）时域分析，输入输出实现：kknxkhny,,输入输出互相关：lrlhlrxxyx输出自相关：lrlrlrxhy频域分析，zRzHzRxxy**1zRzHzRxyx5zRzHzHzRxy**1记忆性，指数衰减，短时记忆，双曲衰减，长时记忆（有限方差的平稳过程）。●平稳过程的相关矩阵是厄米特和托普利兹的：0321301221011210******xxxxxxxxxxxxxxxxxrMrMrMrMrrrrMrrrrMrrrrR厄米特HRR托普利兹：所有与主对角线平行的对角线上的元素都相等。对相关矩阵进行特征值-特征矢量分解，从而HLDLRLDU分解为因果滤波，UDL分解为非因果滤波。平稳随机信号模型都与自相关矩阵有关（后面介绍的滤波器通过自相关矩阵求解）。功率谱的平坦度与特征值的关系：特征值范围越大，越陡峭。（条件指数minmaxxR）估计量的性质（评估标准）：偏，方差，均方差，一致性，置信区间。第四章线性信号模型平稳随机序列：白噪声激励一个线性时不变系统产生---------极点-零点模型（PZ模型）两个问题：（1）根据系统的系数，导出AP，AZ或PZ模型的二阶矩；（2）设计能生成具有给定自相关序列或PSD函数的随机信号的AP，AZ或PZ系统，即信号建模。无参数信号模型：当线性时不变（LTI）滤波器由它的冲激响应指定时，因为关于模型的形式没有任何限制，且参数个数可以是无限的，所以就有一个无参数信号模型。有参模型：通过一个有限阶有理系统函数指定一个系统，由有限个参数描述有参数信号模型。●线性无参数信号模型：（冲激响应为nh）kknkhnx如果均值为零的白噪声方差为2，则自相关函数llr2，PSD为2jeR。输出自相关，复数PSD和PSD为lrlkhkhlrhkx2*26**21zHzHzRxjhjjxeReHeR222可见，当输入为白噪声时，输出信号的自相关函数和功率谱的形状特征完全由系统决定。当输入为白噪声时，产生输出信号x(n)，成为有色滤波器，逆系统可恢复输入，成为白化滤波器。●有参极点-零点信号模型（PZ（P,Q））QkkPkkkndknxanx01系统函数pkkQkkPkkkQkkkzpzzdzAzDzazdzWzXzH1111010111P=0，全零点模型(AZ)；移动平均模型MAQ=0,全极点模型(AP)；自递归模型AR（最常用）0,0QP,极点-零点模型（PZ），自递归移动平均模型ARMA。指数衰减，短期记忆。衰减速率由最靠近单位圆的极点控制，衰减速率随着极点向单位圆靠近而减小，由最靠近单位圆的极点决定，所有极点都在单位圆内时，系统才是稳定的。AP模型可以表示为0nnznhzH任何有限阶全极点模型可以被无限多零点等同表示，任何有限阶全零点模型可以被无限多极点等同表示。●全极点模型参数的确定：根据冲激响应确定ndknhanhPkk01根据自相关确定00101101102010***daarprprprrrprrrphhhhhhhh1由p+1个方程求ka和0d这p+1个参数，其中系数矩阵为厄米特和托普利兹的。一个最小相位系统的描述：（1）直接结构：paaad,,,210（2）格型结构：pkkkd,,,2107（3）自相关：prrrr,2,1,0自回归模型：白噪声激励的因果全极点模型，式1中用白激励的方差2代替0d.。●全零点模型：Qkkkndnx0系统函数：QkkkzdzDzH0冲激响应：其他00