高阶特征，提取这些高阶特征时不需要提取像简单特征那样的精确位置信息。 网络中S-元的闭值是预先设定值，训练时权值的更新基于Fukushima提出 的增强型学习规则，如式(2.10)所示，网络的训练方式采用的是无监督学习方式。
图4与图5是部分实验样本图
图4部分训练样本图
Fig.4 Part of the training sample plans
图5部分测试样本图
Fig.5 Part of the test sample plans
样本分为三角形，四边形，八边形，圆形四类，每类10个共80个样本，实验训练时采用40个样本，测试时采用剩余的40个样本，最终的识别结果如表2所示。
表1 训练后网络参数
Table1 Network parameters after training
级数 第一级 第二级 第三级 第四级 S-层包含的S-面数 16 19 15 7 S-元数 32 290 272 89
表2 识别结果
Table3.2 Recognition results
待识别形状 三角形 四边形 八边形 圆形 识别错误样本如图6所示： 识别结果 10个全对 10个全对 10个全对 对9个，另一个错识成四边形
图6测试出错样本
Fig.6 The sample error in test 识别错误的原因是由于训练所用样本模式较少，不能覆盖所有的圆形模式，以至于该测试模式输入网络时，与之相近的四边形模式获胜，最终得到错误的输出结果。这里采用卷积神经网络进行形状识别目的主要是为了验证卷积神经网络的模式识别能力，所以虽然采用的样本图片较少，但已经能够说明卷积网。络在形状识别时有较高的识别率和抗畸变性，而识别前的车牌字符由于前期处理(定位、分割)能力的局限性，具有一定的噪声和变形，因此可以将卷积神经网络应用于车牌识别系统。 3.2基于卷积网络的人脸检测
卷积神经网络与传统的人脸检测方法不同，它是通过直接作用于输入样本，用样本来训练网络并最终实现检测任务的。它是非参数型的人脸检测方法，可以省去传统方法中建模、参
数估计以及参数检验、重建模型等的一系列复杂过程。本文针对图像中任意大小、位置、姿势、方向、肤色、面部表情和光照条件的人脸，提出了一种基于卷积神经网络（Convolutional Neural Networks，简称CNN）的人脸检测方法。设计了一个输入层节点数为400、输出层节点数为2、四层隐藏层的CNN网络。网络结构如图7。
图7 卷积网络结构
Fig.1 The structure of convolutional neural network
输入、输出层的设计：卷积神经网络是一种分层型网络，具有输入层、中间层（隐含层）
和输出层的三层结构。对于一个神经网络，中间层可以有两个以上，而具有一个中间层的神经网络则是一种基本的神经网络模型。实验表明，增加隐含层的层数和隐含层神经元的个数不一定能够提高网络的精度和表达能力。使用输入窗口的大小都是20×20，这是通常能使用的最小窗口，这个窗口包含了人脸非常关键的部分。因此，可将输入层节点数设计为400，对应于20×20图像窗口中按行展开的各个像素。考虑到本文使用卷积神经网络是用作分类器，其类别数为2（即人脸和非人脸），所以输出层的节点数为2。
隐藏层的设计：隐藏层为四层，分别是图像特征增强的卷积层、数据缩减的子抽样层、和两个激活函数层。其结构如图7所示。设计方法如下：
卷积层的设计：信号的卷积运算是信号处理领域中最重要的运算之一。比如，在图像处理、语音识别、地震勘探、超声诊断、光学成像、系统辨识及其他诸多信号处理领域中。卷积运算一个重要的特点就是，通过卷积运算，可以使原信号特征增强，并且降低噪音。在进行人脸检测时使用离散的卷积核，对图像进行处理。由于离散卷积核只需要进行优先次的加法运算，而且是整数运算，没有浮点运算，计算机可以迅速的计算出结果。本文选定的四个卷积核，分别为两个拉普拉斯算子和两个Sobel边缘算子。输入图像分别经过这四个卷积核的卷积得到四个18×18的待测图像。其中拉普拉斯算子是图像的整体特征增强。而Sobel边缘算子则强化了边缘特征。
子抽样层的设计：利用图像局部相关性的原理，对图像进行子抽样，可以减少数据处理量同时保留有用信息。本层把卷积层输出的四个图像作为输入，分别进行子抽样运算后输出四个9×9图像。而该图像保留了原图像的绝大部分有用信息。子抽样点的值是原图像相邻四个点的平均值。
激活函数层：本层分为两层激活函数层，一层为通过与抽样层输出的四个图像分别进行全连结，得到四个中间输出。第二层为有四个中间结果连接的四个激活函数并与输出层连接，得出网络判断结果。这层有9×9×4＋1×4个激活函数参数需要训练。
激励函数的选择：网络的拓扑结构和训练数据确定后，总误差函数就完全由激励函数决定了，因此，激发函数的选择对网络的收敛性具有很重要的作用。对每一个人工神经元来说，它可以接受一组来自系统中其他神经元的输入信号，每个输入对应一个权，所以输入的加权和决定该神经元的激活状态。按照卷积网络算法的要求，这些神经元所用的激活函数必须是处处可导的。
在设计基于人工神经网络的分类系统中，不仅网络的结构设计非常重要，而且训练数据的收集也十分重要。在人脸检测系统中除了选择好的人脸样本外同时还要解决从大量非人脸图像中选择非人脸样本的问题。对于人脸样本图像还要进行一些预处理，以消除噪音和光线差异的影响。为了提高网络的健壮性，收集各种不同类型的人脸样本；为了得到更多的样本，并提高旋转不变性和亮度可变性的能力，对初始人脸样本集中的部分图像进行一些变换。然后是关于非人脸样本的收集，这是基于神经网络的检测方法中的一个难题，按照常用的Bootstrap处理方法，可以从大量的图像中收集这些边界样本，同时根据卷积神经网络的特点，做出一些改进，降低随机性，提高了效率。在获得图像数据后，通过一些归一化和预处理步骤，减小图像噪声的影响和消除图像亮度及对比度的差异，提高数据的针对性和鲁棒性，得到统计的方法进行学习处理样本的最基本的特征向量，然后使用这些特征向量训练网络。 4 总结
本文首先阐述了卷积神经网络的原理。卷积神经网络是在神经认知机的基础上为了处理模式识别问题而提出的网络。此网络是多层的分级神经网络，每层的神经元都是相同类型的，或简单，或复杂，或是超复杂的神经元，在每层之间都有非常稀少并且固定模式的连接。介绍了基本的卷积神经网络结构及其神经元模型，接着讨论了卷积神经网络的训练过程，当需要的特征已预先确定，那么就采用有监督算法，网络一层一层地学习，反之则进行无监督学
习。最后简要的介绍了卷积神经网络在形状识别和人脸检测中的应用。
目前，卷积神经网络已经被应用于二维图像处理、模式识别、机器视觉、形状识别、智能交通等领域，并且能够很好的解决各个领域中的问题。 参考文献
[1] 王天翼. 基于卷积网络的三位特征提取 [学位论文].吉林:吉林大学,2006.
[2] 李葆青. 基于卷积神经网络的模式分类器 [J].大连大学学报,2003,24(2):19-23. [3] Simon Haykin 著,叶世伟,史忠植译.神经网络原理 [M]. 北京：机械工业出版社，2004. [4] 肖柏旭.基于卷积网络的人脸检测的研究与实现[学位论文].北京:华北电力大学, 2009. [5] 陆璐. 卷积神经网络的研究及其在车牌识别系统中的应用 [学位论文].合肥:合肥工业大学,2006. [6] 顾佳玲,彭宏京.增长式卷积神经网络及其在人脸检测中的应用 [J].系统仿真学报, 2009,21(8):2441-2445.
[7] 赵志宏,杨绍普,马增强.基于卷积神经网络LeNet-5的车牌字符识别研究 [J].系统仿真学报,2010,22(3):638-641.
[8] T .H .Hildebrandt, Optimal Training of Thresholded Linear Correlation Classifiers, IEEE Transactions on Neural Networks Z(6),PP.577一588,Nov.(1991).
[9] K. Fukushima，“Neocognitron:A self-organizing neural-network model for a Mechanism of Pattern recognition unaffected by shift in position，Biol. Cybern.，vol.36，pp.193一202，1980. [10] C.Neubauer，Shape, position and size invariant visual pattern recognition based on principles of neocognitron and perception in Artificial Neural Networks，1.AlexanderandJ.Taylor，Eds. Amsterdam the Netherlands: North一Holland，vol.2，1992，PP.833一837.
[11] D. Lovell，et al.，Comments on“Optimal Training of Thresholded Linear Correlation Classifiers”,IEEE Trans .On Neural Networks 4(2),PP.367一369,March(1993).
[12] K. Fukushima，“Analysis of the process of visual pattern recognition by the neocognitron，”Neural Networks，vol.2，pp.413-421，1989
[13] Van Ooyen and B. Nienhuis，Pattern Recognition in the Neocognitron Is Improved一by Neuronal Adaption，Biological Cyberneties70,pp.47-53(1993).
[14] 石大明，刘海涛，舒文豪.结合进化计算的神经认知机.计算机学报[J」，2001，24(5):468一473 [15] Claus Neubauer. Evaluation of’ Convolutional Neural Networks for VisualRecognition，Neural Netwoks，vol.9，no.4，pp.685-696(1998)
[16] K.Fukushima and M.Tanigawa,“Use of different thresholds in learning and recognition，”NeuroeomPuting，vol.11，pp.1-17，1996.
[17] G. W. Cottrell，“EMPATH: Face，emotion，and gender recognition using holons，”in Advances in Neural Information Processing Sys
[18] H. Bourlard and Y. Kamp，“Autoassoziation by multilayerperceptrons and singular value decomposition，”Biol. Cybern.，vol.59，pp.291-294，1988.
[19]洪家荣，李星原. Neocognitron学习算法分析. 软件学报 [J]，1994，5，(4):35-39
[20]Fukushima K. A hierarchical neural network capable of visual pattern recognition . Neural Networks，1989:2:413-420
[21] Y.Bengio.YLeCun，and D.Henderson，“Globally Trained Handwritten Word Recognizer using Spatial Representation, Convolutional Neural Networks and Hidden Markov Models in Advances in Neural Information Processing Systems，Jack D.Cowan，Gerald Tesauro，and Joshua AlsPector，Eds.1994，vol.6，PP.937一944，Morgan Kaufmann Publishers，Inc.
[22]张佳康,陈庆奎.基于CUDA技术的卷积网络识别算法.计算机工程[J],2010,36(51):179-181. [23]肖柏旭,张丽静.基于分流抑制机制的卷积神经网络人脸检测法.计算机应用[J],2006,26:46-48.
[24]苏松志.复杂背景下的行人检测技术研究[学位论文].厦门:厦门大学,2008.