图(2.1.5.4)( =0.001)
图(2.1.5.5)( =0.005)
观察两个不同步长情况下的误差曲线不难看出，步长越小，误差越小，但收敛速度越慢，为了好的精度，我们在选择时必然牺牲收敛速度。
以上就是围绕对LMS算法的分析，着重讨论了算法的实现及算法中重要参数 的选择问题。在实际中，噪声功率大小的也会对系统的收敛程度产生影响，噪声功率越大，即信噪比SNR越小，误差曲线就会明显增加，这就是更大噪声功率对算法中随机梯度的影响，可以通过下面两个仿真图看出。分别取信噪比SNR=5和SNR=20。 =0.001
图(2.1.5.6)(SNR=5)
图(2.1.5.7)(SNR=20)
2.2 递推最小二乘(RLS)算法
2.2.1 最小二乘法
设已知n个数据 ，…， ，…， ，利用图3.1所示的滤波器结构来估计期望信号 ，…， ，…， 。对的估计可表示成 式(2.2.1.1)
估计误差 - 式(2.2.1.2)
根据最小二乘法， (n)的最佳值应该使下列累计平方误差性能函数为最小 式(2.2.1.3) ， 其中0< <1， 称为遗忘因子。使用前加窗法，只用 的前 个误差，则 式(2.2.1.4)
前加窗法最小二乘性能函数为 式(2.2.1.5)
其中 。 引入m维矢量： 式(2.2.1.6)，而 维矩阵： 式(2.2.1.7)
式(2.2.1.8)
的最佳值满足方程 式(2.2.1.9)
从而有 式(2.2.1.10)
最终得到最小二乘算法的最后方程 式(2.2.1.11)
2.2.2 递推最小二乘(RLS)算法
由于最小二乘法的运算量较大，一般不适合实时滤波，采用递推算法可以减少运算量。
由式(2.2.1.11)有 式(2.2.2.1)
根据式2.2.1.7得 式(2.2.2.2)
对矩阵求逆得 式(2.2.2.3)