第一章 绪论
1.1 自适应滤波理论的发展
早在20世纪40年代，就对平稳随即信号建立了维纳滤波理论。根据有用信号和干扰噪声的统计特性（自相关函数或功率谱），以线性最小均方误差估计准则所设计的最佳滤波器，称为维纳滤波器。这种滤波器能最大程度地滤除干扰噪声，提取有用信号。但是，当输入信号的统计特性偏离设计条件，则它就不再是最佳的了，这在实际应用中受到了限制。到60年代初，由于空间技术的发展，出现了卡尔曼滤波理论，即利用状态变量模型对非平稳、多输入多输出随机序列作最优估计。现在，卡尔曼滤波器已成功地应用到许多领域，它既可对平稳的和非平稳的随机信号作线性最佳滤波，也可作非线性滤波。实质上，维纳滤波器是卡尔曼滤波器的一个特例。
若设计卡尔曼滤波器时，必须知道产生输入过程的系统的状态方程和测量方程，即要求对信号和噪声的统计特性有先验知识。但在实际中，往往难以预知这些统计特性，因此实现不了真正的最佳滤波。
Widrow B.等于1967年提出的自适应滤波理论，可使自适应滤波系统的参数自动地调整而达到最佳状况，而且在设计时，只需要很少的或是根本不需要任何关于信号与噪声的先验统计知识。这种滤波器的实现差不多像维纳滤波器那样简单，而滤波性能几乎如卡尔曼滤波器一样好。因此，近十年来，自适应滤波理论的方法得到了迅速发展。
图1-1 自适应滤波器原理图
自适应算法x(n)离散时间线性系统y(n)-Se(n)d(n)+d(n)图1-1描述的是一个通用的自适应滤波估计问题，图中离散时间线性系统表示一个可编程滤波器，它的冲击响应为h(n)，或称其为滤波参数[6]。自适应滤波器输出信号为y(n)，所期望的响应信号为d(n)，误差信号e(n)为d(n) 与y(n)之差。这里，期望响应信号d(n) 是根据不同用途来选择的，自适应滤波器的输出信号y(n)是对期望响应信号d(n)进行估计的，滤波参
?(n)等于所期望的响应d(n).因此，数受误差信号e(n)的控制并自动调整，使y(n)得估计值y自适应滤波器与普通滤波器不同，它的冲击响应或滤波参数是随外部环境的变化而变化的，
6
经过一段自动调整的收敛时间达到最佳滤波的要求。但是，自适应滤波器本身有一个重要的自适应算法，这个算法可以根据输入、输出及原参数量值，按照一定准则改变滤波参量，以使它本身能有效地跟踪外部环境的变化。通常，自适应滤波器是线性的，因而也是一种线性移变滤波器。当然，它可推广到自适应非线性滤波器。
在图1-1中，离散时间线性系统可以分为两类基本结构，其中一类为非递归型横向结构的数字滤波器，它具有有限的记忆，因而称之为有限冲激响应（FIR）系统，即自适应FIR滤波器。另一类为递归型数字滤波器结构，理论上，它具有无限的记忆，因而称之为无限冲激响应（IIR）系统，即自适应IIR滤波器。对于上述两类自适应滤波器，还可以根据不同的滤波理论和算法，分为结构不同的自适应滤波器，它们的滤波器性能也不完全相同。
1.2 自适应LMS算法的发展
1.2.1 LMS算法历史
1955-1966年期间美国通用公司在研制天线的过程中，为抑制旁瓣，由windows和hoff在60年代初提出了基本LMS算法[6]。随后又发展出了归一化算法和加遗忘因子LMS算法。1977年，makjoul提出了格型滤波器，并由此发展出LMS自适应格型滤波器算法。Herzberg、cohen和be’ery提出了延时LMS（DLMS）算法。2002年，尚勇，吴顺君，项海格提出了并行延时LMS算法。此外，还有复数LMS算法、数据块LMS算法等，在此就不一一列举了。 1.2.2 LMS算法的现状
因LMS算法具有低计算复杂度、在平稳环境中的收敛性好、其均值无偏地收敛到wiener解和利用有限精度实现算法时的稳定性等特性，使LMS算法成为自适应算法中应用最广泛的算法。由于LMS算法的广泛应用，以及在实际条件下，为解决实际问题，基于LMS算法的新LMS类算法不断出现。 1.2.3 LMS算法的发展前景
因LMS算法是自适应滤波器中应用最广泛的算法，所以可以说，自适应滤波的发展前景也就是LMS算法的发展前景。它主要包括以下几个方面的应用：
1、系统辨识和建模(System Identification and Modeling)。自适应滤波器作为估计未知系统特性的模型。
2、自适应信道均衡(Adaptive Channel Equlization)。在数字通信中采用自适应信道均衡器，可以减小传输失真，以及尽可能地利用信道带宽。
3、回波消除(Echo Cancellation)。在2线和4线环路电话系统中，线路间存在杂散电路耦合，这些杂散导致阻抗不匹配，从而形成了信号的反射，也就是我们在线路两端听到的回声。这种回波能对高速数据传输造成灾难性的后果。回波消除就是预先估计一个回波，然后用返回信号来减此回波，从而达到回波消除的目的。消除心电图中的电源干扰就是它的一个
7
具体应用。
4、线性预测编码（Linear Predictive Coding）。近年来，对语音波形进行编码，它可以大大降低数据传输率。在接收端使用LPC分析得到的参数，通过话音合成器重构话音。合成器实际上是一个离散的随时间变化的时变线性滤波器。时变线性滤波器既当作预测器使用，又当作合成器使用。分析语音波形时作预测器使用，合成语音时作话音生成模型使用。
5、自适应波束形成（Adaptive Beaamforming）。频谱资源越来越紧张，利用现有频谱资源进一步扩展容量成为通信发展的一个重要问题。智能天线技术利用阵列天线替代常规天线，它能够降低系统干扰，提高系统容量和频谱效率，因此智能天线技术受到广泛关注。自适应束波形成通过调节天线各阵元的加权幅度和相位，来改变阵列的方向图，使阵列天线的主瓣对准期望用户，从而提高接收信噪比，满足某一准则下的最佳接收。在雷达与声纳的波束形成中，自适应滤波器用于波束方向控制，并可在方向图中提供一个零点以便消除不希望的干扰。
其应用还有噪声中信号的滤波、跟踪、谱线增强以及预测等。
8
第二章 自适应LMS算法的研究
2.1 概述
自适应算法中使用最广的是下降算法，下降算法的实现方式有两种：自适应梯度算法和自适应高斯-牛顿算法。自适应高斯-牛顿算法包括RLS算法及其变型和改进型，自适应梯度算法包括LMS算法及其变型和改进型[2,6]。
滤波器设计准则是使滤波器实际输出y(n)与期望响应d(n)之间的均方误差J（n）为最小，这称为最小均方误差（MMSE）准则。
图2-1FIR滤波器的自适应实现
u(n)Z-1x(n-1)Z-1x(n-2)x(n-M+2)Z-1x(n-M+1)Wh(0)×××××Wh(1)Wh(2)Wh(m-2)Wh(m-1)y(n)d(n)SSSSSe(n) 图2.1为FIR滤波器的自适应实现的原理图。所谓自适应实现是指；M阶FIR滤波器的抽头权系数w0,w1,…,wm-1可以根据估计误差e(n)的大小自动调节，使得某个代价函数最小[6,7]。 定义均方误差J(n)为代价函数，因为滤波器在n时刻的估计误差
e(n)=d(n)-wHx(n) (2-1)
所以代价函数
J(n)=E{|e(n)|2}=E{|d(n)-wH(n)|2} (2-2)
由此可得J(n)的梯度
▽J(n)=2 E{x(n) H(n)}w(n)-2E{x(n)d﹡(n)} (2-3)
2.2 LMS算法
最陡下降算法不需要知道误差特性曲面的先验知识，其算法就能收敛到最佳维纳解，且与起始条件无关[6]。但是最陡下降算法的主要限制是它需要准确测得每次迭代的梯度矢量，这妨碍了它的应用。为了减少计算复杂度和缩短自适应收敛时间许多学者对这方面的新算法进行了研究。1960年，美国斯坦福大学的Windrow等提出了最小均方（LMS）算法，这是一种用瞬时值估计梯度矢量的方法，即
2??[en )] ? (n ( ? ? 2 e ( n ) x (n ) )??w(n)(2-4)
9
可见，这种瞬时估计法是无偏的，因为它的期望值E[?(n)]确实等于矢量?(n)。所以，按照自适应滤波器滤波系数矢量的变化与梯度矢量估计的方向之间的关系，可以先写出LMS算法的公式如下：
??? w (n ? 1 ) ? w ( n ) ? 1 ? ( n )] [??2 ??w(n)??e(n)x(n)
?（2-5a）
（2-5b）
将式e(n)=d(n)-y(n)和式（2-1）代入到上式中，可得到
?
w(n?1)?w(n)??x(n)[d(n)?w(n)x(n)]=[I??x(n)x(n)]w(n)??x(n)d(n) （2-6）
H???H
w(n+1)z-1Ix(n)e(n)d(n)+Σμ-xH(n)Iw(n)图2-2 自适应LMS算法信号流图
由上式可以得到自适应LMS算法的信号流图，这是一个具有反馈形式的模型，如图2-2所示。如同最陡下降法，我们利用时间n=0的滤波系数矢量为任意的起始值w(0),然后开始LMS算法的计算，其步骤如下。
（1） 由现在时刻n的滤波器滤波系数矢量估值w(n)，输入信号矢量x(n)以及期望信号
d(n)，计算误差信号：
e(n)=d(n)-x(n)w(n) （2-7）
（2） 利用递归法计算滤波器系数矢量的更新估值：
w(n?1)?w(n)??e(n)x(n) （2-8）
??H?? 将时间指数n增加1，回到步骤（1），重复上述计算步骤，一直到达稳态为止。 由此可见，自适应LMS算法简单，它既不要计算输入信号的相关函数，又不要求矩阵之逆，因而得到了广泛的应用。但是，由于LMS算法采用梯度矢量的瞬时估计，它有大的方差，以
10