自适应滤波器原理 第四讲-NLMS算法资料

2020/5/10自适应信号处理1第四讲归一化最小均方（NLMS)自适应滤波算法Y.J.Pang自适应信号处理22020/5/10CONTENTNLMS算法推导过程NLMS算法稳定性NLMS算法在回声消除中的应用自适应信号处理32020/5/10为什么归一化？如何归一化及归一化的稳定性回声消除应用仿射投影滤波器应用自适应信号处理42020/5/10为什么归一化？由第五章的传统的LMS滤波器的标准形式)(*)()()1(nenunwnw从上式可以看出n+1次迭代中应用于滤波器抽头权向量的失调为w(n+1)-w(n)由以下三点影响：1.步长参数u（由设计者控制）2.抽头输入向量u(n)（由信息源提供）3.实数据的估计误差e（n）或复数据估计误差e*（n）（n次迭代计算的结果）可知失调与抽头输入向量u（n）成正比。我们在调整滤波器的权向量使滤波器达到稳定状态的过程中，应当使权向量以最小方式改变，这样才能的得到最优解。当u（n）较大时，出现梯度噪声放大问题。归一化：n+1次迭代时对抽头权向量的失调相对于n次迭代时抽头输入向量u（n）的平方欧式范数进行归一化。自适应信号处理52020/5/104.1.归一化LMS滤波器作为约束最优化问题的解（1）在结构上，归一化LMS滤波器与标准LMS滤波器完全一样，都是横向滤波器。区别在于权值控制器的机理，如下图横向滤波器w(n）自适应控制算法∑—+输出信号y（n）期望响应d（n）误差信号e(n）输入向量u（n）自适应横向滤波器框图自适应信号处理62020/5/10最小化干扰原理：从一次迭代到下一次中，自适应滤波器的权向量应当以最小方式改变，而且受到更新的滤波器输出所施加的约束。归一化LMS滤波器设计准则表述为约束优化问题。即给定抽头输入向量u（n）和目标响应d（n），确定更新的抽头向量w（n+1），使得增量的欧式范数最小化，并受制于以下约束条件我们应用拉格朗日乘子法来解决这个约束优化问题。代价函数为其中Re[.]表示取实部运算，约束对代价函数的贡献是实值的；为复数拉格朗日乘子，*表示复共轭；表示欧式范数的平方运算，其结果也是实值的。因此代价函数J（n）是实值的二次函数，且表示为(1))()1()1(nwnwnw(2))()()1(ndnunwH2)1(nw(3)))]()1()((*Re[)1()(2nunwndnwnJH))]()1()((*Re[))()1(())()1(()(nunwndnwnwnwnwnJH自适应信号处理72020/5/10为了得到代价函数为最小的最优更新权向量，推到如下：第一步；代价函数对w（n+1）求导，得：令其为零，得最优解为第二步;将第一步的结果带入式（2）得)(*))()1((2)1(*)(nunwnwnwnJ)(*21)()1(nunwnw2)(21)()()()(21)()()())(*21)(()()1()(nununwnunununwnununwnunwndHHHHH自适应信号处理82020/5/10对求解得其中是误差信号。第三步；由上两步的结果，表示增量变化的最优值。故归一化LMS算法抽头权向量期望的递归结果为2)()(2nune)()()()(nunwndneH)(*)()(1)()1()1(2nenununwnwnw)(*)()(1)()1(2nenununwnw自适应信号处理92020/5/10为了对一次迭代到下一次迭代抽头权向量的增量变化进行控制而不改变向量的方向，引入了一个正的实数标度因子。故得到归一化抽头权向量的递归方程)(*)()()()1(2nenununwnw以上便是解决了当u（n）较大时，造成的LMS滤波器的梯度噪声放大的问题。而当u（n）较小时，不得不用较小的平方范数除以，以致有可能出现数值计算困难。故将递归方程修改为；)(*)()()()1(2nenununwnw其中.0自适应信号处理102020/5/104.2归一化LMS滤波器的稳定性)()()(nvnuwndH)()(nwwn)(*)()()()1(2nenununn])([)(2nEnD期望响应d（n）多重回归模型控制，重写如下加权误差向量为于是从w中减去式得到以均方偏差为基础，进行稳定性分析。对式两边取平方欧式范数，并取期望值得：])()(*)(Re[2])()([)()1(2222nunenEnuneEnDnDu)()()())(()(nunnunwwnuHH其中是无干扰误差信号自适应信号处理112020/5/10由式看做为变量的一元二次函数则当满足如下条件归一化LMS滤波器在均方误差意义下是稳定的。])(/)([])(/)(*)([Re20222nuneEnunenuE最优步长参数为])(/)([])(/)(*)([Re222nuneEnunenuEopt0u自适应信号处理122020/5/10特殊情况：复数据实数据])(/)([])(/)(*)([Re222nuneEnunenuEopt])(/)([])(/)()([Re222nuneEnunenuEopt为便于计算最优步长提出三个假设：假设一：从一次迭代到下一次迭代的输入信号能量的波动足够小满足自适应信号处理132020/5/10])([)]([])()([])([)]()([])()()([222222nuEneEnuneEnuEnenuEnunenEu从而得到简化的最优步长假设二：无干扰误差信号与期望响应d（n）的多重回归模型干扰（噪声）v(n)无关第五章中，干扰信号e（n）与无干扰信号有关。)]([))]()()(([)]()([2nuEnvnunuEnenuE)()()(nvnune)]([)]()([2neEnenuEopt)]([)]([22neEnuEopt最优步长自适应信号处理142020/5/10假设三：输入信号u（n）的谱内容在比加权误差向量每一个分量所占频带更宽的频带上基本上是平坦的，因此证实了如下近似：（低通滤波作用）)]([)()]([])([])()([)]([2222nuEnDnuEnEnUnEnuET)]([)]([)(22neEnuEnDopt最优步长自适应信号处理152020/5/104.3回声消除中的步长控制几乎所有的谈话都在存在回声的情况下进行。根据是否可察觉是有所涉及的时延决定。语音与回声之间时延较短，不容易察觉。（频谱失真）时延较长，(超过几十毫秒)，就能感觉到。现实生活中很常见；电话电路：电路中的混合变换器的桥式电路，当平衡不好时，输入与输出之间存在耦合现象，引起回声。免提电话：‘啸叫’声。这是由于麦克风得到了扬声器的语音信号和机壳反射的回波信号。听到自己的延迟的声音。经系统环绕-往返时间延迟造成的。自适应信号处理162020/5/10回声消除中的步长控制扬声器-机壳-麦克风环境（LEM）横向滤波器w（n）自适应和步长控制器期望响应d（n）u（n）远处说话者的信号u(n)误差信号e（n）—+合成回声y（n）回声消除器回声控制系统的结构框图自适应信号处理172020/5/10步长控制多重回归模型的干扰v（n）误差e（n）增大步长参数的上界下降可能过大回声滤波器不稳定1.本地说话者语音信号导致的干扰。（双说话）2.永久的本地噪声（汽车内的背景噪声）3.需要长的滤波器长度，但不能满足的话，不能考虑全部脉冲响应，而不能建模的那部分系统的剩余回声成为本地噪声4.定点数字信号处理器中的定点计算的量化噪声。本地干扰大时，步长参数u可能很高（滤波器不稳定）本地干扰小时，步长参数u很小（降低了滤波器收敛速率）因此应用时变步长参数u（n）来代替不变参数u自适应信号处理182020/5/10)]([)]([)()(22neEnuEnDnopt对最优步长的估计由上式可变为下列三个独立的估计：1.误差信号功率估计，即E[e2(n)]2.输入信号功率估计，即E[u2(n)]3.均方偏差的估计，即D（n）（由于表征LEM环境的多重回归模型参数w未知）（人工时延方法）（凸组合思想表示一阶递归）________22___________2)()1()1()1(nxnxnxr取值一般在[0.9,0.999]内如图中远端说话者信号被延迟了MD个样值。用自适应横向滤波器模型，故对应的人工时延的参数向量w为0，可令将自适应滤波器趋向均匀地将加权误差向量扩展到它的M个抽头上。将均方偏差近似为1-DM.,0,1,2,3...k)()(nwnkk)()(201nwnDDDMKkMM自适应信号处理192020/5/10本地激励引起的误差信号e（n）增大时，步长参数减小，稳定。系统卡滞，阻断了滤波器的自适应和延迟系数。用LEM的附加检测器来解决自适应信号处理202020/5/104.4实数据时收敛过程的几何考虑)1()()1()()(nununununTsamplen权向量调整量用于n+1次迭代的归一化滤波器得1）调整量的方向与输入向量u（n）的方向一致。2）调整量的大小取决于输入向量u（n）与u（n-1）的样值相关系数。对实数据，该系数为是所有权向量的集合，它作用于输入向量u（n）以产生输出y（n），同理两个超平面的夹角就是输入向量u（n）和u（n-1）的夹角。由空间理论可知，1n)1()()1()(cosnunununuT)(nw自适应信号处理212020/5/10a）当（即输入向量u（n）与u（n-1）正交）时，归一化LMS滤波器收敛速度最快。b）当=0或180（输入向量u（n）与u（n-1）处于相同方向或相反方向）时，归一化LMS滤波器的收敛速度最慢。为防止b）让收敛速率基本上为常数，独立于输入向量u（n）与u（n-1）的夹角。我们使用放射投影滤波器。图（a）权值空间内，w（n+1）与w（n）的连线正交与图（b）正交于1nnn90自适应信号处理222020/5/10自适应信号处理232020/5/10自适应信号处理242020/5/10特点LMS滤波器简易，稳定收敛速率慢自适应常数u有反功率量纲模型独立性，性能有鲁棒性归一化LMS滤波器减轻了当u（n）过大时梯度噪声收敛速率快于传统LMS自适应常数没有量纲的较LMS计算复杂均方意义上稳定收敛仿射投影自适应滤波器归一化LMS的推广收敛性最好计算难度大自适应信号处理252020/5/104.5仿射投影滤波器)()1()1(nwnwnw1-0,1,2...Nk)()1()(knunwkndH归一化LMS滤波器为仿射投影自适应的一个特例，N=1,仿射投影自适应滤波器阶数为N个约束个数的约束最优准则。权值增量约束条件代价函数))]()1()((*Re[)()1()(102knunwkndnwnwnJkNkNM数据矩阵A(n),其埃尔米特转置为：AH(n)=[u(n),u(n-1),....u(n-N+1)]N1期望响应向量，它的埃尔米特转置为：dH(n)=[d(n),d(n-1,....d(n-N+1))]自适应信号处理262020/5/10由上式重新写代价函数：])))1()()(Re[()()1()(102HNknwnAndnwnwnJ对权向量微分：)())()1((2)1(*)(nAnwnwnwnJ)(21)()1(nAnwnwH令其为0得由式得)1()()(dnwnAnH由式(