其中,由所有连接权值wji构成的连接权值矩阵W为:
w11 w21 W w n1w12 w1m w22 w2m (2-3) wn2 wnm
在实际应用中,该矩阵是通过大量的训练示例学习而形成的。
图2-2 单层感知器
2.4 人工神经网络的主要学习算法
神经网络主要通过两种学习算法进行训练,即指导式(有师)学习算法和非指导式(无师)学习算法。此外,还存在第三种学习算法,即强化学习算法;可把它当做有师学习的一种特例。
(l)有师学习。有师学习算法能够根据期望的和实际的网络输出(对应于给定输入)间的差来调整神经元间连接的强度或权。因此,有师学习需要有个老师或导师来提供期望或目标输出信号。有师学习算法的例子包括d规则、广义规则或反向传播算法以及 LvQ算法等。
(2)无师学习。无师学习算法不需要知道期望输出。在训练过程中,只要向神经网络提供输入模式,神经网络就能够自动地适应连接权,以便按相似特征把输入模式分组聚集。无师学习算法的例子包括Kohonen算法和呷enter一Grossberg自适应谐振理论(ART)等。
(3)强化学习如前所述,强化学习是有师学习的特例。它不需要老师给出目标输出。强化学习算法采用一个“评论员”来评价与给定输入相对应的神经网络输出的优度(质量因数)。