第2章 单层前向网络及LMS学习算法汇总(5)

1970-01-01 08:00

图2.23 η=0.1*maxlinlr(P)时,网络的学习曲线

图2.24 η=0.1*maxlinlr(P)时,网络的学习曲线

适当的增大学习速率因子,可以加快网络的收敛速度。如图2.25是η=1.8*maxlinlr(P)时,网络的学习曲线。显然,网络在140步左右就已经收敛。但是,如果学习速率因子值过大,将造成网络不收敛,如图2.26是η=2*maxlinlr(P)时,网络的学习曲线。显然,训练误差是不断增大的,网络不收敛,即使再增加训练步数,网络也不可能收敛。

44

图2.25 η=1.8*maxlinlr(P)时,网络的学习曲线

图2.26 η=2*maxlinlr(P)时,网络的学习曲线

按照(2.18)式或(2.19)式计算出的η取值范围为0<η<0.073,这是一个充分条件,不是必要条件,但我们可以据此估计η的取值不能超出0.073很多,否则网络将不收敛。而实际上仿真过程中,可以计算出1.8*maxlinlr(P)=0.096,2*maxlinlr(P)=0.107。因此,我们可以估计出,本例中为保证网络收敛,学习速率η的极限取值在0.1左右。

45

当然,按照(2.20)式,可以简单的取学习速率因子η为一个常数。图2.27是η=0.1时,网络的学习曲线。网络在130步左右就收敛,网络收敛得很快(接近最快的速度)。如果学习速率取值过小,网络收敛将变得很慢,如图2.24(η=0.0054);而如果取值过大,会造成网络不收敛,如图2.26(η=0.107)。综合考虑各方面的因素,本例中网络的学习速率η取值在0.05左右比较合适(maxlinlr(P)=0.054)。

图2.27 η=0.1时,网络的学习曲线

习 题

2.1对于线性可分问题,试证明单层感知器的收敛性。

2.2试画出单层感知器的学习算法框图,并用C语言写出单层感知器关于逻辑“或”运算的学习算法程序。 2.3 LMS算法中输入向量X(n)的自相关矩阵RX为RX???10.5??,试求能使LMS算法按

0.51??方差收敛的学习速率因子的取值范围。

2.4试画出学习速率因子η为时变的LMS学习算法框图,并用C语言写出自适应线性元件关于逻辑“或”运算的LMS学习算法程序,给出LMS算法学习曲线。

2.5仿照例题,采用自适应线性元件和单层感知器两种网络,解决一个实际的模式分类问题。 2.6 继续例2.7的讨论,按照(2.21)式或(2.22)式,考虑学习速率因子为时变的情况,确定相应参数合适的取值。

46


第2章 单层前向网络及LMS学习算法汇总(5).doc 将本文的Word文档下载到电脑 下载失败或者文档不完整,请联系客服人员解决!

下一篇:生产与运营管理复习题(2)

相关阅读
本类排行
× 注册会员免费下载(下载后可以自由复制和排版)

马上注册会员

注:下载文档有可能“只有目录或者内容不全”等情况,请下载之前注意辨别,如果您已付费且无法下载或内容有问题,请联系我们协助你处理。
微信: QQ: