东北大学秦皇岛分校毕业设计(论文) 第 1 页
第一章 绪论
在现实生活和自然界中存在大量的信息需要人们去获取和认识,这些信息可能是预先已知的,也可能是事先未知的,人们通过对这些信息进行分析来获得认识和改造自然的能力。然而,信息的纷繁复杂也给人们的工作带来许多困难,人们很难判断信息的准确性和真实性。真实的信息隐含在大量虚假或无用的信息中,因此人们很容易被它们所迷惑从而做出错误的判断。信号与信息处理的任务就是从大量的数据中提取人们所希望得到的信息,提供给人们做出判断或通过一些复杂的逻辑由机器做出判断。
当信号的全部或部分信息已知时,我们可以根据这些已知的信息通过一些合适的变换或滤波来尽可能地提取信号。因此许多信号处理的算法和准则都是针对一定得假设条件或应用背景推导的。盲信号处理(Blind signal processing,BSP)则是在几乎没有可利用信息的情况下根据某些假设条件仅从观测到得信号中提取或恢复出源信号的一种新的信号处理方法。本文工作就针对盲信号处理中的主要内容——盲源分离(Blind Signal Separation,BSS)算法展开谈论。 1.1 盲信号处理研究的背景和意义
数字信号处理技术(DSP:Digital Signal Processing)是20世纪60年代,随着电子计算机技术和快速傅里叶变换技术的发展而迅速发展起来的一门学科技术。从它刚一诞生起就显示了巨大的潜力,并且很快在包括电子通讯、雷达和声纳探测及电子生物医学工程等许多领域得到了广泛的应用。而由于技术手段的限制,早期数字信号处理对象主要是基于平稳高斯假设的信号,并且将系统局限为因果最小相位系统,而对信号的分析研究主要是利用其相关函数(时域)和功率谱(频域)等二阶统计量信息。由于上述假设在许多场合是成立或近似成立的,因而数字信号处理技术在实际应用需求的推动下迅速发展、完善起来,其应用范围越来越广,应用层次也越来越深。然而,随着数字信号处理技术在各个领域中应用的不断深入,以及数字信号处理技术自身的不断发展,人们已经不仅仅满足于处理平稳高斯信号和线性时不变的因果最小相位系统。他们只是物理世界中的一些特例,经典的信号处理理论已经远远不能满足实际的需要,因而对非平稳、非高斯信号和非线性、时变的非因果最小相位系统的分析和研究被提到议事日程上来,并且逐渐成为现代信号处理的热点和前沿课题。由于高斯统计量和小波变换等数学工具
东北大学秦皇岛分校毕业设计(论文) 第 2 页
的新发展,现在已能分别对非高斯信号和非平稳信号进行有效地分析与处理。另外,自适应信号处理、多维信号处理技术、信息论、人工神经网络、模糊推理、进化算法、分形与混沌以及盲信号处理等在近十年里也取得了重大进展,并迅速地应用到了信号处理领域。可以这样说,掌握现代信号处理的理论和方法并应用于各个领域,已成为通信、电子、自动化、生物医学、机械工程等众多学科或专业的研究人员的迫切需要。
盲信号处理作为计算智能学的核心研究内容,是20世纪最后十年迅速发展起来的一个新研究领域,是人工神经网络与统计信号处理以及信息理论相结合的产物,已经成为一些领域研究与发展的重要课题,特别是在雷达与通信系统、语音增强、远程传感、地震勘探、地球物理、生物医学工程、医疗图象、计量经济学、数据采掘等方面均具有突出的作用。
1.2 国内外研究历史及现状
1.盲源分离研究的发展
BSS的开拓性研究起源于1986年4月,法国学者Herault和Jutten在美国犹他州举行的Neural Network for Computing会议上作了一篇题为“Space or time adaptive signal processing by neural network models”的研究报告,文中提出递归神经网络模型和基于Hebb学习律的学习算法,实现了两个信源的盲分离,从而揭开了信号处理领域中的新篇章,即盲源分离问题的研究。他们在论文中提出的启发式学习算法已具备后来算法的雏形。
1987年,Giannakis等人提出了盲信号分离问题的可辨识性问题,同时引入了三阶统计量,开创了高阶统计量在盲信号分离问题中应用的先河。
1991年,Jutten和Herault、Sorouchyari、Comon先后在Signal Processing上发表了关于盲分离的三篇经典文章,标志着盲源分离研究的重大进展。其中Herault和Jutten 提出了著名的H-J盲分离算法,首次将人工神经网络算法用于盲分离问题。此后,更多的学者加入到盲分离的研究队伍中来,有力地推动了这一领域的发展。同年,Tong 和Liu等人分析了盲分离问题的可分离性和不确定性,并给出了一种基于高阶统计量的矩阵代数分解方法。
1994年Common第一次提出了BSS的独立分量分析(ICA:Independent Component Analysis)方法。他首先界定了ICA方法的基本假设条件,并明确指出可以利用一些称
东北大学秦皇岛分校毕业设计(论文) 第 3 页
为对比函数的目标函数极小化方法消除观测信号中的各阶统计相关性,从而实现盲信号分离。同年Delfosse等提出采用降维的方法(即逐个提取原始信号)解决BSS问题,并证明了这种算法具有全局收敛性能。
1995 年Bell等发表的文章成为ICA发展史上的里程碑,正是他们的工作极大地推动了信号盲分离的研究,使得在短短的几年内涌现出大量的BSS算法。他们的主要贡献是:第一,利用神经网络的非线性来消除观测信号中的高阶统计相关性;第二,用信息最大化准则建立目标函数,从而将信息论方法与ICA相结合;第三,给出了神经网络式的最优迭代学习算法,成为后续各种算法的基础;第四,成功地对具有10个人说话的鸡尾酒会问题给出了很好的分离效果。应该说,信号盲分离不仅对信号处理的研究,而且也对神经网络理论的发展起到了积极的推动作用。同年Mansour和Souloumiac等分别利用信号的四阶交叉累量和非平稳信号的时间相关属性消除混合信号中的附加白噪声的影响并实现盲分离。
自1996年至1999年,人们对BSS问题的研究开始在多方面展开。在分离性能研究方面,Cao等讨论了BSS的两个主要问题:分离性和分离准则。文章指出,可分离性是观测信号本身的固有特性,可以用m行可分解性概念加以描述;而盲分离准则可以利用随机变量的结构特征理论,如Darmois-Skitovich理论简明、直观地推出。Cardoso等提出了ICA学习算法中的相对梯度、等价变化和有关稳定性和分离精度等重要思路和方法,并指出ICA分离准则中的信息最大化准则与最大似然估计准则是一致的。Obradovic 等则论证了信息最大化准则与基于Kullback-Leibler散度的互信息最小化准则是一致的。以上两人的文章揭示了ICA分离准则的一致性。Douglas等的文章提出基于最大似然准则推导出来的盲解卷与盲分离算法也拥有统一的框架。
1998年Cardoso对ICA方法和盲分离算法的稳定性重新进行了分析,并提出了一种一致性标准。在算法研究方面 Karhunen等提出了采用多层反馈神经网络算法解决ICA问题;Te-WonLee等基于信息最大化准则对非线性混合信号实现盲分离;Belouchrani等利用信号的时频分布特征解决盲分离,并对算法进行了渐进收敛性能分析;Serviere利用四阶交叉累量消除法对对宽带信号源进行盲解卷并提出了几个分离准则;Amari等等利用自然梯度算法实现盲解卷/盲均衡;Zhang等提出利用状态空间模型实现盲解卷/盲均衡;部分文献对传感器数目少于信号源数目时的盲分离问题进行了研究。
进入21世纪以后,BSS和ICA等方法的研究已深入到信号处理领域的多个方面,
东北大学秦皇岛分校毕业设计(论文) 第 4 页
而且针对不同的问题提出了多种算法及其应用,包括各种盲分离、盲解卷和盲均衡算法及性能分析;分离算法的时域、频域、时频域研究;多维信号的盲分离;时变动态系统的盲分离;BSS在图形/图像、语音、金融、通讯、生物医学等领域的应用等。这些研究从不同的方面展示了BSS技术的优点。与此同时,在实践中遇到的各种的问题和难点,激励着人们对BSS的研究向更深入的方向发展。近几年国内某些高校也进行了相关方面的理论研究,将盲信号分离理论应用到具体实践中去,将是进一步的发展方向。
2.国内研究现状
国内近期关于盲信号处理理论的研究几乎是与国际上同步进行的。何振亚教授在国内较早地注意到了盲信号处理的研究,并在基于特征分析和高阶谱的盲源分离和盲反卷积方法的研究中取得了令人鼓舞的进展,提出了一系列新的基于高阶统计和信息理论的判据和算法。在盲系统参数估计和盲波束形成等方面也取得了许多很好的研究成果。凌燮亭教授利用反馈式神经网络根据Hebbian的学习算法,实现了近场情况下一般信号的盲分离,并对算法的渐近收敛性和实现信号分离状态的稳定性进行了讨论。最近胡光锐教授也开始了盲语音分离问题的研究,并提出了基于高斯混合模型概率密度估计的语音分离方法。
3.盲源分离技术的应用
与任何一种信号处理的新技术一样,盲分离的发展也离不开实际的应用。事实上,盲源分离技术在很多领域中都有广泛的应用。下面我们从几个方面简单地加以介绍。
(1)语音识别
语音信号的分离识别是盲源分离最经典的应用。在这个应用中,观测信号是几个语音信号混迭在一起的混合信号,目的就是要把感兴趣的源信号分离出来。在一个实际的语音识别系统中,观测到的信号是源语音信号与传感器及周围环境共同作用产生的冲激响应的卷积结果。显然传感器的性质和周围环境一样,是不固定的。例如,电话的形状、失真度的区别都会给传输性质带来很大的差异。麦克风所使用放大器的不同,听筒所在位置的不同,以及发声区域位置的不同都会使得语音传输性质发生改变。一个只针对某一传感器在某一特定地点的辨识器,在换了环境或辨识对象时,就可能会工作得很糟糕。所以,制造辨识器,就不能对传输特征做个别规定。这时,盲源分离就显得很重要。
东北大学秦皇岛分校毕业设计(论文) 第 5 页
(2)阵列信号处理领域
在军事领域,雷达的作用越来越重要。但是随着现代电子侦察技术的发展,传统的主动雷达为了探测目标必须发出电波信号,很容易因暴露自己而遭到攻击,所以使用受到很大限制。相反,近年来发展起来的被动“雷达”(暂且称其为雷达)由于只接收信号而不发出任何信号就可以探测到目标,因而受到各国的广泛重视。实际上,这种被动雷达工作的基本原理就是盲源分离技术。我国这几年来对隐形飞机探测研究所取得的成就也正是将盲信号处理领域的最新研究成果应用于上述这类被动雷达的一个具体生动的例子。
(3)数据通信
在无线数字通信中,如何充分利用有限的频带,服务尽可能多的客户,在国内外始终是一个重要的研究课题。扩频技术是通过伪随机信号源编码,将窄带信号功率扩频到一个宽频带中,以提高信号噪声比,增加信道的通信容量。国内外一些学者提出采用天线阵接收系统和空间滤波,利用接收器信号的差异,通过盲分离算法,实现同信道多用户信号的分离,可以在同一个信道中同时传送多个用户信号,从而大大提高信道容量。
(4)图象恢复
盲源分离在对天文、遥感和医学图象的恢复中有着广泛的应用。在图象恢复和重构问题中,主要任务是从模糊的图象中恢复出原始图象。引起图象模糊的原因很多,例如模糊暴光过程中相机的抖动、透镜聚焦的不精确、传输噪声的叠加等。原始图象作为系统输入,而原始图象的模糊版本则为该系统的输出,可以将该模糊系统的传输函数建模为一个点扩展函数。在很多特定情况下,我们对于模糊系统的点扩展函数的信息和原始图象的信息都几乎是完全未知的。要求只根据模糊图象来恢复原始信号,就必须进行盲源分离。
(5)地震信号处理
在地质勘探中,我们在土壤中进行炸药爆破,用地音探听器来接收反射或衍射信号,利用这些信号来估计反射函数。反射函数与不同地层的冲激响应有关,可以用来区分不同地层的地理特性。接收信号是由不同地层的冲激响应共同作用得到的。因为冲激响应和原始信号均未知,所以此时也要用到盲源分离。
盲源分离在其它诸如地球物理信号处理、回波抵消、数据采掘、机械故障检测等方面的应用也方兴未艾。还有学者成功地将盲源分离方法应用于脸部特征识别和嘴唇运动