自适应滤波器设计及Matlab实现
简单描述自适应滤波的原理及在MATLAB中实现的方法，并辅以相关MATLAB代码供大家交流。1绪论11引言人类传递信息的主要媒介是语言和图像。据统计,在人类接受的信息中,听觉信息占20%,视觉信息占60%,其它如味觉、触觉、嗅觉总的加起来不过占20%,所以图像信息是十分重要的信息。然而,在图像的获取和图像信号的传输过程中,图像信号中不可避免的混入各种各样的随机噪声,造成图像失真(图像退化)。造成人类所获取的信息和实际是有偏差的,成为人类从外界获取准确信息的障碍。因此,对图像信号中的随杋噪声的抑制处理是图像处理中非常重要的一项工作在图像的获取和传输过程中所混入的噪声,主要来源于通信系统中的各种各样的噪声,根据通信原理及统计方面的知识,可以知道在通信系统中所遇到的信号和噪声,大多数均可视为平稳的随机过稈。又有“高斯过程又称正态随机过程,它是一种普遍存在和重要的随机过程,在通信信道中的噪声,通常是一种高斯过程,故又称高斯噪声。囚此,在大多薮的情况下,我们可以把造成图像失真的噪声可视为广义平稳高斯过程本文针对图像信号中混入的随机噪声,在怎样把现有的滤波算法应用到实际的图像复原中去的问题上提出了解决方法,并且应用 Matlab软件编程对图像进行处理。1.2研究目标及现状121图像复原技术的目标为了从含有噪声的数据中提取我们所感兴趣的、接近规定质量的图像,我们需要设计个系统满足:当信号与噪声同时输入吋,在输出端能将信号尽可能精确地重现出来,而噪声却受到最大抑制,即最佳滤波器。122图像复原抆术的研究现状日前的图像复原技术,即去噪的滤波技术可以分为两大类:传统滤波和现代滤波。传统滤波技术是建立在已知有用信号和干扰噪声的统计特性(自相关函数或功率谱)基础上的噪声去除;现代滤波技术则是不需要知道图像的先验知识,只是根据观测数据,即可对噪声进行有效滤除。早在20世纪40年代,就对平稳随机信号建立了维纳滤波理论。根据有用信号和干扰噪声的统计特性(自相关函数或功率谱),以线性最小均方误差(MSE)估计准则所设计的最佳滤波器,称为维纳滤波器。这种滤汲器能最大程度的滤除干扰噪声,提取有用信号。但是,当输入信号的统计特性偏离设计条件,则它就不再是最佳的了,这在实际应用中受到了限制。到60年代初,由于空间技术的发展,出现了卡尔曼滤波理论,即利用状态变量模型对非平稳、多输入多输出随机序列作最优估计。卡尔曼滤波器既可以对平稳的和平稳的随机信号作线性最佳滤波,也可以作为非线性滤波[2]。然而只有在对信号和噪声的统计特性已知的情况下,这两种滤波器才能获得最优解。在实际的应用中,往往无法得到这些统计特性的完验知识,或者统计特性是随时间变化的,因此,这两种滤波器就实现不了真正的最佳滤波。Widrow B.和Hof于1967年提出的自适应滤波理论,可使在设计自适应滤波器时不需要事先知道关于输入信号和噪声的统计特性的知识,它能够在自己的工作过程中逐渐估计出所需的统计特性,并以此为依据自动调整自己的参数,以达到最佳滤波效果。一旦输入信号的统计特性发生变化,它又能够跟踪这种变化,自动调整参数,使滤波器性能重新达到最佳。自适应滤波器自动调节参数可以通过各和不同的递推算法来实现,由于它采用的是逼近的算法,使得实际估计值和理论值之间必然存在差距,也就造成了自适应滤波问题没有唯一的解。依照各种递推算法的特点,我们把它应用于不同的场合。现在广为应用的自适应滤波方法主要是基于以下几种基本理论,再融合递推算法导出来的:(1)基于维纳滤波理论的方法维纳滤波是在最小均方误差准则下通过求解维纳霍夫方程来解决线性最优滤波问题的。基于维纳滤波原理,我们利用相关的瞬时值通过在工作过程中的逐步调整参数逼近信号的统计特性,实现最优滤波。由此,我们得到一种最常用的算法—最小均方算法,简称LMS算法。(2)基于卡尔曼滤波理论的方法卡尔曼滤波是线性无偏最小方差滤波递推滤波,它能使滤波器工作在平稳的或非平稳的环境,得到最优解。利用卡尔曼滤波理论的递推求解法导出自适应滤波器更新权矢量得不同递推算法。比LMS算法有极快的收敛速率,可是计算复杂度也增大∫,它需要计算卡尔曼矩阵。(3)基于最小二乘准则的方法维纳滤波和卡尔曼滤波推导的算法是基于统计概念的,而最小二乘佔计算法是以最小误差平方和为优化目标的。根据滤波器的实现结构,有以下3种不同的最小二乘自适应滤波算法:自适应递归最小二乘法(RLS),自适应最小二乘格型算法,QR分解最小二乘算法。(4)基于神经网络理论的方法神经网络是有大量的神经元相互连接而成的网络系统,实质上它是一个高度非线性的动力学网络系统,这个系统具有很强的自适应、自学习、自组织能力,以及巨量并行性、容错性和坚韧性,因而,它可以做很多传统的信号和信息处理技术所不能做的事情。因其超强的自动调节能力,使符它在自适应信号处理方面有着广阔的前景[2]在一系列的自适应算法中,虽然基于后面3种基本理论的方法在收敛速率和稳定、坚韧性方面有着更好的性能,但是,基于维纳滤波理论的IMS算法因其算法简单,而且能达到满意的性能,得到了青睐,成为了应用最广泛的自适应算法。为此,本文主要研究LMS自适应滤波器在图像去噪方面的应用。2理论基础21基本自适应滤波器的模块结构自适应滤波器通常由两部分构成,其一是滤波子系统,根据它所要处理的功能而往往有同的结构形式。另一是自适应算法部分,用来调整滤波子系统结构的参数,或滤波系数。在自适应调整滤波系数的过程中,有不同的准则和算法算法是指调整自适应滤波系数的步骤,以达到在所描述的准则下的误差最小化。自适应滤波器含有两个过程,即自适应过程和滤波过程。前一过程的基本目标是词节滤波系数"(),使得有意义的目标函数或代价函数()最小化,滤波器输出信号y()逐步逼近所期望的参考信号4k),由两者之间的误差信号(k)驱动某种算法对滤波系数进行调整,使得滤波器处于最佳工作状态以实现滤波过程。所以自适应过程是一个闭合的反馈环,算法决定了这个闭合环路的自适应过程所需要的时间。但是,由于目标函数)是输入信号(k),参考信号(k)及输出信号y(k)的函数,即20=ack,.y,因此目标函数必须具有以下两个性质(1)非负性g (=8[x(k), d(k), y(k] 20Vx(), u(k), y(k)(2.1)(2)最佳性E()=E[x(k),d(k),y(k)]=0(22在自适应过程中,自适应算法逐步使目标函数(最小化,最终使()逼近于(),滤波参数或权系数()收敛于",这里"是自适应滤波系数的最优解即维纳解。因此,自适应过程也是自适应滤波器的最佳线性估计的过程,既要估计滤波器能实现期望信号()的整个过程,又要估计滤波权系数以进行有利于主要目标方向的调整。这些估计过程是以连续的时变形式进行的,这就是自适应滤波器需要有的自适应收敛过程。如何缩短自适应收敛过程所需要的收敛时间,这个与算法和结构有关的问题时人们一直重视研究的问题之—[2]。当然滤波子系统在整个自适应滤波器的设计中也占有很重要的地位,因为它对最终的滤波性能有很大的影响。本文要研究的是基于维纳滤波原理的LMS算法,那么下面我们需要介绍一下基本维纳滤波原理。22基本维纳滤波原理基本维纳滤波就是用来解决从噪声中提取信号问题的一种过滤(或滤波)方法。它基于平稳随机过程模型,且假设退化模型为线性空间不变系统的。实际上这种线性滤波间题,可以看成是种估计问题或种线性佔计问题。基本的维纳滤波是根据全部过去的和当前的观察数据来估计信号的当前值,它的解是以均方误差最小条件下所得到的系统的传递函数万(3)或单位样本响应h(k)的形式给出的,因此更常称这种系统为最住线性过滤器或滤波器。设计维纳滤波器的过程就是寻求在最小均方误差下滤波器的单位样本响应h(k)或传递函数h(x)的表达式,其实质是解维纳-霍大( Wiener-Hopf方程。基木维纳滤波器是这样的,有两个信号x(k)和y(k)同时加在滤波器上。典型地y(k)包含一个与x(k)相关地分量和另一个与x(k)个相关地分量。维纳滤波器则产生y(k)中与x(k)相关分量地最优估计,再从y(k)中减去它就得到ε(k)。y(kak)输出rk)维纳德波n=∑v(D)x(k-)f=0图21基本维纳滤被模型假定一个N个系数(权值)的FR滤波器的结构,维纳滤波和原始信号y(k)之间的差信号c(k)为ek= yk-nk=ye∑w(i)x(23)其中和w分别为输入信号矢量和权矢量,由下式确定(24)k-N-1)H(N-1)误差平方为2Y, x,w+w x.x,w对(3)式两边取期望得到均方误差(MSE),若输入x(k)与输出yk)是联合平稳的,则ELel=Ely,-2ELYXiwItElwx, x, w2.62P其中E[代表期望,=Ex是(k)的方差,P=E[yx1是长度为N地互相关矢量,R=Exx是NxN的自相矩阵。一个MSE滤波系数的图形是碗形地,且只有唯一地底部,这个图称为性能曲面,它是非负的。性能曲面地梯度可由下式给出2P+2R(2.7)Ytrim图22误差性能曲面每组系数w(i)(i=1,2,N-1)对应曲面是一点,在由面是地最小点梯度为0滤波权矢量达到最优”呷R P(28)即著名的维纳霍夫方稈的解。自适应滤波地仟条是采用合适的算法来调节滤波权重W,0)W,1),…W,N-1),从而找到性能曲面地最优点维纳滤波的实际用途有限,因为:(1)它需要已知自相关矩阵R和可相关矢量P,这两个量通常是未知的。(2)它包含∫矩阵的求逆,非常的耗时3)若信号为非平稳的,则R和P是时变的,导致必需重复计算。对于实际的应用需要一种能够依次加入地抽样点而得到"的算法。自适应算法就就是用于达到这个目的,而且不需显式计算R和P或进行矩阵求逆[3]3自适应滤波原理及算法在实际应用中常常会遇到这样的情况:随机信号的统计特性是未知的,或者信号的统计特性是缓慢的变化着的(非≯稳信号),这就促使人们去研究一类特殊的滤波器,这类滤波器具有以下特点:当输入过程的统计特性未知时,或者输入过程的统计特性变化时,能够相应的调整自身的参数,以满足某种准则的要求,由于这类滤波器能变动自身的参数以“适应”输入过程统计特性的估计或变化,因此,就把这类滤波器称为自适应滤波器41。在本文中我们研究的是退化图像复原的问题,由于图像自身的多样性和所混入的噪声的随机性和多样性,我们选择自适应滤波取出图像中混入的噪声。3.1横向滤波结构的最陡下降算法3.11最陡下降算法的原理首先考虑如下图所示的横向FIR自适应滤波器x(k-1k-2)x、-M+2)xR-M+l)e自适应控制算法1图31自适应横向滤波器结构它的输入序列以向量的形式记为X(k)=[x(k)x(k-1)(k-M+1)(3.1假设x()取自一均值为零,自相关矩阵为R的广义平稳随机过程,而滤波器的系数矢量(加权矢量)为:k)=[w,(k)w2(k)(32)以上二式中括号内的k为时间指数,因此,X()和W()分别表示时刻k的滤波器输入序列和加权值,滤波器的输山y(k)为:y(k)=∑w(n)x(n-t+1)33)式中M为滤波器的长度。图31中的“k称为“期望理想响应信号”,有时也可称为“训练信号”,它决定了设计最佳滤波器加权向量W(k)的取值方向。在实际应用中,通常用一路参考信号来作为期望响应信号。(k)是滤波器输出y(k)相对于a(k)的误差,即e(k)=d(k)-v(h)(34)显然,自适应滤波控制机理是用误差序列(k按照某种准则和算法对其系数w)n),=1.2…,M进行调节的,最终使自适应滤波的目标(代价)函数最小化,达到最佳滤波状态。按照均方误差(MSE)准则所定义得目标函数是E(h)=Ele()(35)eId()-2d(k)y(k)+y(k)将式(3.4)代入式(3.5),目标函数可以化为c(k)=Ele(k)(3.6)E[d(k)]-2Eld(kw(k)x(k]+ elw(kX(eX(s)w(k)当滤波系数固定时,目标函数又可以写为c(k=[d(k]-2W(k)P+W(k)RW (k)(3.7)其中,P-趴是长度为N的期望信号与输入信号的互相关矢量,R=Exx是Nx的输入向量得自相关矩阵。由式(37)可见,自适应滤波器的目标函数()是延迟线抽头系数(加权或滤波系数)的二次函数。当矩阵R和矢量P已知时,可以由权矢量W(k)直接求其解。现在我们将式(3.7)对W求倒数,并令其等于零,同时假设R是非奇异的,由此可以得到目标函数最小的最佳滤波系数w为R P(38)
- 2020-11-28下载
- 积分：1
模糊理论和神经网络的基础与应用.pdf
模糊理论和神经网络的基础资料，相关知识说得较明白易懂。模糊理论和神经网络的基础与应用(仅供交流学习使用,请勿用于商业交易,否则后果自负)中国计算机学会学术著作丛书模糊理论和神经网络的基础与应用Introduction to Fuzzy Theory andNeural Networks and Their Application赵振宇徐用恐著清华大学出版社广西科学技术出版社模糊理论和神经网络的基础与应用(仅供交流学习使用,请勿用于商业交易,否则后果自负)(京)新登字158号(桂)新登字06号内容简介模糊理论和神经网弊是近年来得到迅速发展的嘶兴学料,它们的应用和影响己经遍及人工智能算机科学自动控制、专家系统信息科学、 CAD/CAN医疗诊断、经济等部门和领域本书系统驰论述了模糊理论和神经网络的基本理论、方法,从统一的工程角度综合分析了两大学科的最新成果,研究动向以及两者交叉部分中的前沿研究并介绍了高技术的应用实例。全书非14章,分三大都分第一部分为模糊理论的基础、建模方法和实际应用第二部升为神经网将的基本理论罔络学习方法和典型实倒第三部分讨论了模棚系统和神经网络系统的异同、融合和相互转换方法,本书还提供了大暈劑颞,以便读者自己模伤实践加深理解。本书可供白动控制计算机、信号信息处理、电路与系统、系綻工程等专业的高校师生利科技人虽遄用版权所有,醐印必究。本书封面貼有消华大学出版社激光防伪标签,无标签者不得销嘗肉书在版編目(CIP數据模糊理论和神经网络的基础与应用=Ⅰ NTRODUCTION TO FUZZY THEORY ANDNEURAL NETWORKS AND THEIR APPLI CATTON/赵振宇,徐用懋著.一北京:清华大学出版社,1995.19〔中国计算机学会学术者作丛书IsHN7-302-02061-2I.模r.①赵…闪徐…】,①模糊数学-应用-计算机网络②神经网络应川计算机网终Ⅳ.TP393中国版本图书馆CIP数据核字(95)第23616号出版者:清华大学出版社(北京清华大学校内,邮编100084)西科学技术出版社(厂西南宁河堤路14号,邮编530021印刷者:北京市清华园印刷厂发行者:新华书店总店北京科披发行所开本:787×1092116印张;13.75字数:324千字版次:i996年6月第1版199日年6月第1次印刷号:IN7-302-020612/TP·958印数:001-4000定价:16.00元模糊理论和神经网络的基础与应用(仅供交流学习使用,请勿用于商业交易,否则后果自负)清华大学出版社广西科学抆术出版社计算机学术著作出版基金评审委员会主任委员张效祥副主任委员周远清汪成为委员王鼎兴杨芙清李三立施伯乐徐家福夏培肃董韫美张兴强徐培忠模糊理论和神经网络的基础与应用(仅供交流学习使用,请勿用于商业交易,否则后果自负)出版说明近午来随岩微电子和计算相技术渗透到各个技术领域,人类正在步入一个技术迅插发展的新时期。这个新时期的主要标志是计算机和信息处理的广泛应用。计算机在改造传统产业实现管理自动化促进新兴产业的发展等方面都起着重要作用,它在现代化建设中的战略地位愈来盒明显。算机科学与其它学科的交叉又产生了许多新学科推功着科学技术向更广阔的领域发展,正在对人类社会产生深远的影响科学技术是第一生产力。计算机科学技术是我国高科技领域的一个重要方面。为了推动我国计算机科学及产业的发展,促进学术交流,使科研慮果尽快转化为生产力华大学出版杜与广西科学技术出版社联合设立了“计算机学术著作基金”,旨在支持和员科技人员,提写高水平的学术著作,以反映和推广我国在这一领域的最新成果计算机学术著作出版基金资助出版的著作范国包括:有重要理论价值或重要应用价值的学术专著计算机学科前沿探索的论著推动计算机拔水及产业发的专著;与计算机有关的交叉学科的论蓍有较大应用价值的工具书世界名著的优透翻译作品。凡经作者本人申请,计算机学术著作出版基金评审委员会评牢通过的著作,将由该基金资助出版,出版社将努力徹好出版工作基金还支持两社列选的国家高科技葷点图书和国家教委重獻图书规划中计算机学科领域的学术著作的出版为了做好选题工作出版社特邀请“中国计算机学会”“中国中文信息学会”帮助做好组织有关学术普作丛书的列选工作。热诚希望得到厂大计算机界同仁的支持和帮助清华大学出版社计算机学术著作出版基金办公室西科学技术出版社1992年4月模糊理论和神经网络的基础与应用(仅供交流学习使用,请勿用于商业交易,否则后果自负)丛书序亩计算机是当代发展最为迅猛的科学技术其应用几乎已深入到人类社会活动和生活的一切领域大大提高了社会生产力引起了经济结构社会结构和生活方式的深刻变化和变革,是最为活跃的生产力之一。计算机本嘉在国际范围内已成为年产值达250亿美元的巨大产业国际争异常剧烈,预计到本世纪末将发展为世界第一大产业。计算帆科技具有极大的综合性质,与众多科学技术相交叉而反过来又渗入更多的科学技术,促进它们的发展。计算机科技内容十分丰富学科分支生长尤为迅速,日新月异,层出不穷。因此在我国计算机科技尚比较落后的情况下加强计算机科技的传播实为当务之急。中国计算机学会一直把出版图书刊物作为学术动的重要内容之一。我国计算机专家学者通过科学实践做出了大量成果积累了丰富经验与学识。他们有撰写著作的大积极性,但相当时期以来计算机学术著作出于印数不多,出版往往退到不少困难,专业性越强有深度的著作出版难度越大最近清华大学出版杜与西科学枝术出版社为促进我国计算机科学技术及产业的发椎动计算机科技著作的出版工作,特设立“计算机学术著作出版基金”,以支持我国计算机科技工作者撰写高水平的学术著作并将资助出版的著作列为中国计算机学会的学术荷作从书我们十分盒视这件事,并三把它列为学会本屈理事会的工作要点之一。我们希望这一系划丛书能对传播学术成果,交流学术愿想促进科转化为生产力起到良好作月能对我国计算积科技发展具有有益的导向意义,也希望我国广大学会会员和计算机和技工作者括海外工作和学习的神州学人们能积极投稿,出好这一系列丛书。中国计算机学会1992年4月20日模糊理论和神经网络的基础与应用(仅供交流学习使用,请勿用于商业交易,否则后果自负)Introduction to Fuzzy Theory, Neural Networks sand Their Applicationsby Zhen-Yu Zhao and Yong-Mao XuThe fields of fuzzy sets and neural networks have made rapid progress in recentyears, This book gives a comprehensive presentation on recent developments in boththeory and applications, Special emphasis is placed on basic concepts, system designnalysis and development methods of fuzzy systems and neural network systemsThis hook consists of three majar parts. The first two parts present the fundamen-tals and real world applications of fuzzy sets theory and ueural nel works, respectivelyThe last part addresses various state-of-the-art techniques o combine fuzzy logic withneural networks eliminating the disadvantages of each of these technologies while effec-tively combining their advantageshis book can be used as the text for an advanced course on fuzzy theory and neuraletworks. It is also a valuable reference to all researchers and engi eers interested inthese subjects模糊理论和神经网络的基础与应用(仅供交流学习使用,请勿用于商业交易,否则后果自负)序非高兴得知赵振宇博士和除月懋教投巴完成他们的合著《棋糊理论利神兰网络的基础与应用》近年来模糊理论和神经网络提供了行之有效的方法来解决在特定环境以及采用定性描述方式的多冒的设计中的各种间题这本节从模糊埋论利神网络的基出发,综合分析和归纳了两领域的研究成果,并附有大量的应用实例赵博士和徐教授对棋糊系统和神经网络研究较深,这次他们对此专题的合著正合时宜。此外,赵博土还利用他精通语和英讦的特长,充分收纳了这两大领域的最新发展和动向。二十余年前,L, A. Zadeh教提出的模棚集合哩论已在工程的众多领域中得到广泛深入的研究。对于实际操作人员,即没有精确的数据和过程模型他也能操作和控制复杂的过程。而模糊理论正是将掘作人员的操作经骏鞍换成可以在计算机上运行的掉制算法以便实现模糊控制樸糊控制已泛应用于水质控制她铁操作汽车减震和牵引以及摄泉机聚焦等系统中。人工神经网络是由大量并行分布、有机相联的神经元构成的计算机构,对这种计算机构的研究受启于生物神纸系统的学习能力和并行机制。近年米,对神经网络方面的研究受到愈来愈密切的关注,特别在人工智能、心理学、工程学和物理学等学科中显得空前的活跃。另外,应用神经网络技术的商业产品亦愈来愈多,典型的例子如:语言识别系统爆炸检测器和飞机座位订票系统等绒合模糊理论、神经网络以及其它智能算法(如人上邀传斧法)的研究和应用将有卡常广阔的前景。一个明显的例子就是结合神网络的学习能力来训练基于模糊规则的系统。此书在这方面已有深刻的反映。作者正从统一的角度综合闯述了惯糊理论和抻经网络的重大课题和应用。我相信,此书对行志于模糊理论和神纸网络研究的读者是有裨益Masayos hi tomizuka美圈加州怕党莱大学机械系教授模糊理论和神经网络的基础与应用(仅供交流学习使用,请勿用于商业交易,否则后果自负)FOREWORDI am very pleased that Dr. Zhen-Yu Zhao and Professor Yong-Mao Xu have completed theit book," Introduction to Fuzy Theory, Neural Networks, and Their Appli-cations. In recent years, the fuzzy theory and neural networks have demonstrated theiryaludc for providing solutiont ta problems in unccrtain and imprecise environments a3well as to those with multi-design objectives, which may be stated in a qualitative man-ner. This book starts with Fundamentals of fuzzy theory and neural networks, developsthe ideas for comprehensive coverage of the two sub jects and presents their applications. Having rich rcscarch experienec in fuzzy systcms and neural nerworks, Dr. Zharand Professor Xu make an ideal team to write a book on these subjects. D. Zhao hastaken an advantage of his mastery of two ianguages, Japanese and English. Many recentimporcant developmerts in fuzzy thcory and neural networks havc bcen rcportcd in thesctwo languagesThe theory of fuzzy set&, established by Professor L, A. Zadeh about 20 years agohas been extensively studied in varicus fields of engineering. It is well known that hu-man beings have an ability to operate and control complicated processes without havingprecise data and plant models, Fuzzy theary has been shown to translate such knowldge of human beings into computer implementable control algorithms which are ronmonly called"fuzzy control. "Fuzzy control has been used in many practical applicalionssuch as water quality control, subway operation systems, automotive suspension andraction control and camcorder fotusing and stabilizationArtificial neural networks are computing architectures that consist of massiveparallel interconnections of simple neural proCessors. The study of such architectureshas becn inspired by thc learning abilities and parallelism of biological nervous syatemsIn recent years, neura! networks have received considerable Attention and are now beingactively explored in the fields of artificial intelligence psychology engineering andphysics. Neural networks have been applied to many conmercial products such asspeech recognition systems, explosive detectors and airline seat allocation systerms.Ambitned use af fuzzy theory neural networks, as well as other computational in-telligence algorithms such as genetic algotithms, has heen recognized as being promising, An obvious example is the training of fuzzy rule-based systems ly using the learm
- 2021-05-06下载
- 积分：1
