2022年自适应变步长BP神经网络在水质评价中的应用 .pdf

《2022年自适应变步长BP神经网络在水质评价中的应用 .pdf》由会员分享，可在线阅读，更多相关《2022年自适应变步长BP神经网络在水质评价中的应用 .pdf（5页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、2002年10月水 利 学 报SHUILI XUEBAO第10期收稿日期: 2001207203作者简介:黄胜伟(1965 -),男,安徽安庆人,副教授,博士,从事人工神经网络建模和可视化研究。文章编号: 055929350 (2002)1020119205自适应变步长BP神经网络在水质评价中的应用黄胜伟1,董曼玲1(11 山东农业大学 水利土木学院,山东,泰安市 271018)摘 要:为克服传统的BP网络的不足,采用自适应变步长算法(ABPM)来训练前馈人工神经网络。根据黄河流域的大汶河水系的水质监测的数据,建立了一个对地面水质进行判别的多层前馈网络数学模型。以地面水质七项污染指标为训练样本

2、,对网络进行训练,并将训练好的网络用于水质进行评价,将计算结果与BP网络评价结果 、单因子评价结果进行了比较分析。结果表明, ABPM神经网络方法收敛速度较快,预测精度很高,为水质评价提供了一种新方法。关键词:人工神经网络; BP网络;自适应变步长算法(ABPM) ;水质评价;中图分类号: P64117 ; TP30116 文献标识码: A由于影响水质的因素较多, 目前用物理方法进行水质评价存在一些困难。70 年代我国使用的是综合污染指标法的“硬性分级划分” , 目前使用的是灰色和模糊系统, 如灰色集类法、模糊综合评判法1 等 。30 多年来在评价原理的科学性和实际评价结论的合理性等方面都有了

3、长足的发展。然而 ,灰色和模糊系统两大类方法都仍然存在一些缺陷, 如都需要设计若干不同的效用函数(灰色系统的白化函数 、模糊数学的隶属函数等) 以及人为地给定各评价指标的权重(或权函数 )等。这些效用函数和指标权重的给定往往因人而异, 造成评价模式难以通用, 而且增加了应用的困难和人为臆断因素对结论的影响 。事实上 , 在评价指标确定后, 水质评价的过程是把这些指标的监测值与标准值进行比较和分析 , 在此基础上判断其与哪一级分类标准更接近。因此 , 水质综合评价属于模式识别问题。当前 , 迅速发展的人工神经网络已在模式识别中广泛应用2 。人工神经网络是近几年来发展起来的一门新兴学科, 它是一种

4、大规模并行分布处理的非线性系统 , 可以处理那些难以用数学模型描述的系统, 可以逼近任何非线性的特性, 具有很强的自适应、自学习 、联想记忆 、高度容错和并行处理能力, 使得神经网络理论的应用已经渗透到了各个领域。近年来 , 人工神经网络在水质分析和评价中的应用越来越广泛, 并取得良好效果2 。在这些应用中, 纵观应用于模式识别的神经网络, BP网络是最有效、最活跃的方法之一。笔者根据黄河流域大汶河水系水质监测的条件, 建立了一个对地表水质进行判别的多层前馈网络数学模型 。以地表水质7 项污染指标为训练样本, 利用自适应变步长BP神经网络(即 ABPM 网)进行训练 , 并将训练好的网络来对水

5、质进行评价。1BP算法及其改进111 BP 网络特点多层前向网络的权值学习常采用误差逆传播学习算法( ErrorBack Propagation 简称BP) 。为了简单起见,将采用这一学习算法进行训练的多层前向网络简称为BP网络 。在具体应用该网络时分为网络训练及网络工作2 个阶段 。在网络训练阶段, 根据给定的训练模式, 按照“ 模式的顺911名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 1 页，共 5 页 - - - - - - - - - 传播” “误差逆传播”“记忆训练”“

6、学习收敛”4 个过程进行网络权值(包括阈值 )的训练2 。在网络的工作阶段, 根据训练好的网络权值及给定的输入向量, 按照“ 模式顺传播”方式求得与输入向量相对应的输出向量的解答。BP 算法是一种比较成熟的有指导的训练方法, 是一个单向传播的多层前馈网络。它包含输入层、隐含层 、输出层 。同层节点之间不连接。输入信号从输入层节点, 依次传过各隐含层节点, 然后传到输出层节点, 每一层节点的输出只影响下一层节点的输入。网络训练目标是使误差函数E最小 ,E的定义如下:E=12(tjp-Ojp)2=EP(1)式中 :E为网络输出误差,P代表第P个样本 ,j为输出单元数,tjp为单元期望输出,Ojp为

7、单元的实际输出 , (tjp-Ojp)2输出层第j个神经元在模式P作用下的实际输出和期望输出之差的平方。112 BP算法存在的问题 BP 算法的基本形式为3 :W(k+ 1)=W(k) +D(k)(2)式中 :W(k) 为时刻的权值; 为学习率 ;D(k)= - 9E/ 9W(k) 为k时刻的负梯度。用三层 BP网络可以任意逼近任何连续函数, 但是它主要存在如下缺点:(1)从数学上看, 它可归结为一非线性的梯度优化问题, 因此不可避免地存在局部极小问题;(2)学习算法的收敛速度慢,通常需要上千次或更多; (3) 网络结构为前向结构, 没有反馈连接, 因此它是一非线性映射系统。113 BP算法的

8、改进( ABPM 算法 )由于 BP算法存在以上的缺陷, 因而用 BP 网络训练网络时常常会出现收敛慢、振荡和陷入局部极小等问题。因此 , 采用引入动量项的自适应变步长来调整学习率的改进算法(即 ABPM 算法 ) 。自适应变步长算法和常规BP 算法的主要区别在于学习步长随误差曲面的变化而进行调整。由于 BP 网络的逼近误差曲面的梯度变化是不均匀的, 即 9E/ 9w(k) 在不同的位置大小不同。如果采用固定的步长, 当 较小时 , 在误差曲面较平坦的区域, 收敛较慢 ; 当步长 较大时 , 又会在峡谷区域引起振荡。自适应变步长算法正是针对步长的缺陷提出来的。这种算法是以进化论中的进退法为理论

9、基础的, 即连续两次观测训练的误差值, 如果误差下降则增大学习率, 误差的反弹在一定的范围内 , 则保持步长, 误差的反弹超过一定限度则减小学习率。学习率的调整可用如下公式进行描述。W(k+ 1)=W(k) +(k) 1 -D(k) +D(k- 1) (3)其中 : (k) = 2(k- 1) ; = signD(k)D(k- 1) 。 式中 : (k)为k时刻的学习率, 它是(k- 1)时刻学习率的函数。是动量因子, 用来抑制振荡。确定好网络结构和训练算法后, 就可以利用输入输山样本对网络进行训练, 即按照式(3)对网络权值进行调整, 当达到期望的输出时训练即告完成, 否则继续调整权值。2

10、水质评价的ABPM模型对于水质综合评价的ABPM 神经网络来说, 其训练样本即为水质分级标准, 网络训练完成后, 将网络对分级标准学习的知识和有关信息保存下来, 然后输入待评价样本资料得到有关评价结论的信息 , 从而根据一定的规则作出有关评价结论的判断。211 输入层神经元数和输入模式向量设有需分级评价的水质样本n个 , 对每个样本, 本文取如下7 项污染指标监测值: 溶解氧(DO) 、五日生化需氧量(BOD5) 、挥发酚 、氰化物(CN-) 、汞( Hg) 、砷 (As) 、六价镉(Cr+6) 等 , 国家行业规范规定, 根据相应于这7 项污染指标下的水质标准浓度将水质划分为5 个等级 。由

11、于取 7 项污染指标数, 即取每一份水样有7 项污染指标监测值, 因而输入层神经元的节点数为7。若某一流域需监测断面m个(现每一断面取一份水样) , 则网络的输入模式向量为:021名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 2 页，共 5 页 - - - - - - - - - Xk=(x1,x2, ,x7), k= 1 ,2 , ,m(4)式中 :m为学习样本个数。212 隐层和隐层神经元数的确定 水质评价是一个非线性关系较为复杂的问题, 考虑到既满足精度要求 , 又要尽可能减

12、少学习费用, 一个隐含层足够了。下面主要确定隐单元个数。采用“ 试错法”确定隐层单元数。首先给定较小初始隐单元数, 构成一个结构较小的BP 网络进行训练 。如果训练次数很多或者在规定的训练次数内没有满足收敛条件, 停止训练 , 逐渐增加隐单元数形成新的网络重新训练。作为算例 , 对文献 4 的数据 , 分别采用BP、ABPM 网络训练方法, 经过 50 次试验获得训练最大次数和最小次数与隐单元的关系如表1。其中初始权值和阈值是用Matlab中 rand()函数产生均匀分布随机数矩阵, 控制误差(一般根据实际情况而定)暂定为 010001。表1 网络的训练次数与隐单元数的关系(表中INF代表无穷

13、多次)隐单元数468101215最小次数最大次数最小次数最大次数最小次数最大次数最小次数最大次数最小次数最大次数最小次数最大次数BP网络8700INF6860INF36002650026802100022001620015808180ABPM网络103INF138558993398285312021821141402368图1三层神经网络模型由表1可以看出,当隐含单元数小于8时 , 网络易陷入局部极小, 难以达到所要求的精度(表 1 中表示为T NF) ; 当隐含单元数为 8 12 时 , 训练次数明显减少, 再增加隐含单元数对训练次数影响不大。由此可以看出 , 选取隐单元数的最佳值为812。

14、213 水质评价的神经网络模型针对水质综合评价是个非线性关系较为复杂的问题,笔者建立了一个含有7 个输入神经元节点、10个隐含神经元节点和5 个输出神经元节点的人工神经网络, 如图 1 所示 。214 学习样本和期望输出对于水质综合评价的RBF神经网络来说, 其训练样本即为地面水质分级标准 。表 1为国家地面水环境质量标准( GHZ B1 1999) , 因而也为RBF网络的训练样本。对每一类水质 , 期望输出值见表1所示 。表1 地表水环境质量标准浓度值和网络希望输出值污染指标溶解氧生化需氧量挥发酚氰化物汞(Hg)砷( As)六价铬希望输出值 类91021001001010050100005

15、0105010110000 类61031001002010501000050105010501000 类510410010050120100010105010500100 类310610010101201001011010500010 类21010100110120100101101100001215 样本的规范化处理通过实践 , 选用下述规范化方法, 效果更好 。即 :xP1i=xP1ixi ,max+xi ,min, (i= 1 ,2 , ,n)(5)tP1i=tP1jtj ,max+tj ,min,(j= 1 ,2 , ,n)(6)式 (5)和(6) 中 :xP1i,tP1j分别为原始资

16、料的第P1个实际样本的第i个输入值和第j个期望输出值 :xP1i,tP1j分别为规范化后第P1个样本的第i个输入值和第j个期望输出值;xi ,max,xi ,min分别为样本中第i个输入的最大和最小值;tj,max,tj,min分别为样本中第j个期望输出的最大和最小值。由式121名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 3 页，共 5 页 - - - - - - - - - (5)和(6)规范化的教师值域仍在0 , 1 之间但不包括0 和 1。3 应用实例对黄河流域的大汶河水系

17、进行评价。黄河流域的大汶河水系设立了东周、雪野等 9 个水质监测站 , 对 19911993年间每年分别在丰、平 、枯水期取样监测, 各断面指标实测浓度的平均值列于表2。表219911993年黄河流域的大汶河水系9个监测站水质浓度平均值和水质3种评价方法结果断面溶解氧/(mg/l)生化需氧量/(mg/l)挥发酚/(mg/l)氰化物/(mg/l)汞(Hg )/(mg/l)砷(As)/(mg/l)六价铭(mg/l)ABP M网络训练结果ABP M网络评价结果BP网络评价结果单因子评价结果东周1311110010010010 010010100211088 - 01099 0100401000 -

18、01004 类 类 类雪野12171150100100100100100111087 - 01097 0100301000 - 01005 类 类 类莱芜810291401008010010010101000801002 - 01002 01001 - 0100201998 类 类 类羊流121411501001001001001011087 - 01097 0100401000 - 01005 类 类 类临汶814910010160100100090101201001002 - 01036 012260180501077 类 类 类北望6103715010590101801000901016

19、01001- 0100201002 010010100201998 类 类 类戴村912718010630101201000440107601001018 - 01131 111020100701001 类 类 类白楼81011140103901048010003801092010030100401000 010011105301048 类 类 类石汶12150180100100100100101011088 - 01099 0100401000 - 01005 类 类 类图2ABPM网络训练次数与网络输出误差关系311 ABPM 网络训练结果取动量因子 = 013 , 初始学习率 (1)=

20、0101 ,随机赋予ABPM 网络的初始权值和阈值 , 控制误差取为010001。利用上述ABPM神经网络和标准BP 神经网络进行网络训练, 并将其评价结果与单因子评价结果比较, 如表 2所示 。图 2为地表水水质评价的ABPM 网络训练次数与网络输出误差E变化规律 ; 图 3 为 ABPM 网络训练次数与学习率 (k) 变化规律。 图 4 为地表水水质评价的标准BP 神经网络训练次数与网络输出误差E变化规律 。图3ABPM网络训练次数与学习率(k)变化规律图4标准BP网络训练次数与网络输出误差关系312 结果分析 表 3 中的评价结果表明ABPM 网络方法与BP 网络方法对水质评价结果是一致

21、, 但同单因子评价结果相比, 在戴村断面和白楼断面的水质评价结果有一些偏差。其原因为戴村断面水质7项中单项因子有2 项达 类 , 1 项达 类 , 2 项达 类 , 2 项达 类 , 因而综合考虑定为类较为合理 ; 白楼断面水质7 项中单项因子有1 项达 类 , 5 项达 类 , l 项达 类 , 因而综合考虑定为类221名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 4 页，共 5 页 - - - - - - - - - 较为合理 。自适应变步长BP 神经网络方法有以下特点:(1)

22、ABPM算法是以进化论中的进退法为理论基础,通过自适应变步长避免了BP网络收敛慢,易引起局部振荡等缺点。从图 2 和图 4 对比可以看出, 用 APBM 算法训练本文的综合评价, 其学习速度是常用的BP算法无法比拟的。(2) ABPM 网络用于地表水水质评价只需以各评价参数的分级标准为基础来生成训练样本, 用训练后得到的网络模型的参数值就可以对需评价的地表水水质样本进行评价。所以 , 一旦训练好了一个网络模型, 就可以推广应用于该类环境问题的评价, 因此它具有很好的通用性, 其评价结果也具有客观性 。4 结束语以上介绍了如何利用ABPM 神经网络对地表水水质综合评价, 从具体的应用实际中可以看

23、出, 其评价方法操作简便易行, 评价结果切合实际。ABPM 网络以其特有的灵活性和适应性为解决标准BP网络中难题提供了独特的方法。当然神经网络技术正处在不断发展之中, 如何在现行的神经网络中进一步吸取模糊和灰色理论的某些优点, 如何建立更适合水质评价的神经网络模型, 使该模型既具有方法的先进性又具有现实的可行性, 仍将是一个值得深人研究的问题。参 考 文 献 : 1 方子云.水资源保护工作手册M.南京:河海大学出版社: 1988. 2 阎平凡,等.人工神经网络与模拟进化计算M.北京:清华大学出版社, 2000. 3 刘曙光,郑宗勋,等.前馈神经网络的反向传播算法及其改进:进展与展望J .计算机

24、科学, 1996 , 1(23) : 76 - 79. 4 纪桂霞,李培红.水环境质量评价的人工神经网络模型及应用J .华北水利水电学院学报, 1999 , 1 :60 - 62. 5 闻新,周露,等.MATLAB神经网络应用设计M.北京:科学出版社, 2000.Application of adaptive variable step size BP networkto evaluate water qualityHUANG Sheng2wei1, DONGMan2ling1(1.Shangdong AgricultureUniversity,Taian271018,China)Abstra

25、ct : The back 2propagation(BP) netw ork is trained using adaptivevariable step sizealg orithm toovercomethe shortage of conventionalBPNetw ork.Basedon the observationdatathe ANN modelfor wa 2ter quality evaluationis established. Sevenpollution indices areadoptedastraining stylebookto train thenetw o

26、rk.Thetrained netw ork can be used to evaluatethe water quality.The contrastcom parison be 2tweenthe conventionalBP netw ork andproposednetw ork showsthat the later possesses the advantage ofhigh accuracyand high speedfor convergence.Key words: artificial neural netw ork ; BP netw ork ; adaptivevariable stepsizealg orithm321名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 5 页，共 5 页 - - - - - - - - -