方式传递到每一层[11]。
BP网络在结构上类似于多层感知器,是一种多层前馈神经网络。BP神经网络是一种基于BP算法(误差反传算法)的多层前向网络,它的主要特点是信号前向传递,即误差反向传播。BP网络的网络拓扑结构是多层前向网络,该网络由三部分构成:输入层、隐含层和输出层。隐含层大于等于一层,相邻两层的各个神经元彼此相连,且对应地有一个连接权值,形成有向无环图的前向网络拓扑结构,如图2-4所示。在BP网络中,同层节点之间不存在相互连接,层与层之间多采用互联方式,且各层的连接权值可调。BP网络实现了明斯基的多层网络的设想,是当今神经网络模型中使用最为广泛的一种。
BP神经网络是一种单向传播的神经网络,输入信号从输入层节点依次传过各隐含层节点,最后传到输出层节点。每层节点的输出只影响下一层节点的输出。所以,可将BP神经网络看作是一个从输入到输出的高度非线性映射,即F: Rn → Rm,f(X) = Y。对于样本集合:输入xi(属于Rn)和输出yi(属于Rm),那么我们
可以认为存在某一映射g使得g(xi)= yi(i=1,2,……,n)成立。现在要求出一个映射f,使得在某种意义下,f是g的最佳拟合。BP神经网络通过对简单的非线性函数进行数次复合,可以近似复杂的函数。通过迭代处理的方法,不断调整连接神经元的网络权重,使得最终输出结果和预期结果的误差最小。
在图2-4中,给定一个样本集:S={(X1,Y1),(X2,Y2),…,(Xs,Ys)},BP算法是逐一根据样本集中的的样本(Xk,Yk)计算出实际输出Ok及其误差E1,然后对各层神经元的权值W(1),W(2),…,W(L)各做一次调整,重复这个循环,直到∑Ep<ε(所有样本的误差之和)。然后用输出层的误差调整输出层权矩阵,并用此误差估计输出层的直接前导层的误差,再用输出层前一层误差估计更前一层的误差。如此获得所有其它各层的误差估计,并用这些估计实现对权矩阵的修改。形成将输出端表现出的误差沿着与输入信号相反的方向逐级向输入端传递的过程。