神经网络——BP算法教案资料.ppt

《神经网络——BP算法教案资料.ppt》由会员分享，可在线阅读，更多相关《神经网络——BP算法教案资料.ppt（79页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、神经网络BP算法BP网络网络 是一种单向传播的多层前向网络是一种单向传播的多层前向网络其神经元的变换函数是其神经元的变换函数是S型函数，型函数，因此输出量为因此输出量为0到到1之间的连续量之间的连续量它可以对非线性可微分函数进行它可以对非线性可微分函数进行权值训练，从而实现输入到输出权值训练，从而实现输入到输出的任意的非线性映射。的任意的非线性映射。网络中心思想是梯度下降法网络中心思想是梯度下降法 通过梯度搜索技术，使网通过梯度搜索技术，使网络实际输出值与期望输出值络实际输出值与期望输出值的误差均方值最小。的误差均方值最小。网络的学习过程是一种误差网络的学习过程是一种误差边向后传播边修正权系数

2、的边向后传播边修正权系数的过程过程7.2.2 BP网络结构 BP神经网络模型结构神经网络模型结构 输入层输入层隐层隐层输出层输出层输输 入入输输 出出BP网络是一种多层前向神经网络网络是一种多层前向神经网络v一般分三层：输入层，隐层，输出层，也可以一般分三层：输入层，隐层，输出层，也可以有有2层或更多个隐层。层或更多个隐层。v层与层之间采用全互联方式，同一层单元之层与层之间采用全互联方式，同一层单元之间不存在相互连接。间不存在相互连接。1）输入层单元无转换函数，直接接收信号传给下）输入层单元无转换函数，直接接收信号传给下一层，所以有些书不认为输入层是一个网络层。一层，所以有些书不认为输入层是一

3、个网络层。2）在一般情况下，均是在隐含层采用）在一般情况下，均是在隐含层采用 S 型激活函型激活函数，而输出层采用线性激活函数。数，而输出层采用线性激活函数。x1x2xny1yp只有当希望对网只有当希望对网络的输出进行限络的输出进行限制，如限制在制，如限制在0和和1之间，那么则在之间，那么则在输出层包含输出层包含 S 型型激活函数激活函数BP网络特点网络特点是多层网络，包括输入层、隐层和输出层是多层网络，包括输入层、隐层和输出层层与层之间采用全互连方式，同一层神经层与层之间采用全互连方式，同一层神经元之间不连接元之间不连接权值通过学习算法进行调节权值通过学习算法进行调节神经元激发函数为神经元激

4、发函数为S函数函数层与层的连接是单向的，信息传播是双向层与层的连接是单向的，信息传播是双向的的感知机网络利用输出误差只能感知机网络利用输出误差只能修改最后一层的权值修改最后一层的权值而而BP网络实现了多层学习，每一网络实现了多层学习，每一层的权值均可训练学习修改。层的权值均可训练学习修改。BP学习规则学习规则 BP算法属于算法属于算法，是一种算法，是一种监督式的学习算法。监督式的学习算法。其主要思想为：其主要思想为：对于对于q个输入学习样本：个输入学习样本：P1，P2，Pq，已知与其对应的输出样本为：已知与其对应的输出样本为：T1，T2，Tq。学习的目的：学习的目的：是用网络的实际输出是用网络

5、的实际输出A1，A2，Aq与目标与目标矢量矢量T1，T2，Tq之间的误差来修改其权值之间的误差来修改其权值 使使Al(ll，2，q)与期望的与期望的Tl尽可能地接近；尽可能地接近；即：即：使网络输出层的误差平方和达到最小。使网络输出层的误差平方和达到最小。BP算法的学习过程由算法的学习过程由 正向传播正向传播和和反向传播反向传播组成组成 BP算法是由两部分组成：信息算法是由两部分组成：信息的正向传递与误差的反向传播。的正向传递与误差的反向传播。在正向传播过程中，输入信息在正向传播过程中，输入信息从输入经隐含层逐层计算传向输从输入经隐含层逐层计算传向输出层，每一层神经元的状态只影出层，每一层神经

6、元的状态只影响下一层神经元的状态。响下一层神经元的状态。如果在输出层没有得到期望如果在输出层没有得到期望的输出，则计算输出层的误的输出，则计算输出层的误差变化值，然后转向反向传差变化值，然后转向反向传播，通过网络将误差信号沿播，通过网络将误差信号沿原来的连接通路反传回来修原来的连接通路反传回来修改各层神经元的权值直至达改各层神经元的权值直至达到期望目标。到期望目标。BP网络用途网络用途1)函函数数逼逼近近：用用输输入入矢矢量量和和相相应应的的输输出出矢矢量训练一个网络逼近量训练一个网络逼近个函数；个函数；2)模模式式识识别别：用用一一个个特特定定的的输输出出矢矢量量将将它它与输入矢量联系起来；

7、与输入矢量联系起来；3)分分类类：把把输输入入矢矢量量以以所所定定义义的的合合适适方方式式进行分类；进行分类；4)数据压缩：减少输出矢量维数以便于传数据压缩：减少输出矢量维数以便于传输或存储。输或存储。BP网络的逼近用于逼近的BP网络前向传播：计算网络输出前向传播：计算网络输出输出层输出输出层输出隐层输出采用隐层输出采用S函数函数隐层输入：隐层输入：BP网络逼近仿真Chap7_1.m设计的网络结构为设计的网络结构为2-6-1；权值权值w1,w2的初值取的初值取-1,+1之间的随机值，之间的随机值，取取 初始化 加输入和期望输出计算隐层和输出层的输出迭代次数加1调节输出层和隐层的连接权值 改变训

8、练样板训练样终止？迭代终止？BP算法的基本流程NoNoyyBP网络模式识别一、一、由于神经网络具有自学习、自组织和并行处理由于神经网络具有自学习、自组织和并行处理等特征，并具有很强的容错能力和联想能力，等特征，并具有很强的容错能力和联想能力，因此，神经网络具有模式识别能力。因此，神经网络具有模式识别能力。在神经网络识别中，根据标准的输入输出模式在神经网络识别中，根据标准的输入输出模式对，采用神经网络学习算法，以标准的模式作对，采用神经网络学习算法，以标准的模式作为学习样本进行训练，通过学习调整神经网络为学习样本进行训练，通过学习调整神经网络的连接权值。的连接权值。当训练满足要求后，得到知识库，

9、利用神经网当训练满足要求后，得到知识库，利用神经网络并行推理算法便可对所需的输入模式进行识络并行推理算法便可对所需的输入模式进行识别。别。BP网络的训练过程 为了训练一个为了训练一个BP网络，需要计算网络加权网络，需要计算网络加权输入矢量以及网络输出和误差矢量，然后求得输入矢量以及网络输出和误差矢量，然后求得误差平方和。误差平方和。当所训练矢量的误差平方和小于误差目标，当所训练矢量的误差平方和小于误差目标，训练则停止，否则在输出层计算误差变化，且训练则停止，否则在输出层计算误差变化，且采用反向传播学习规则来调整权值，并重复此采用反向传播学习规则来调整权值，并重复此过程。过程。当网络完成训练后，

10、对网络输入一个不是当网络完成训练后，对网络输入一个不是训练集合中的矢量，网络将给出输出结果。训练集合中的矢量，网络将给出输出结果。为了能够较好地掌握为了能够较好地掌握BP网络的训练网络的训练过程，我们再用两层网络为例来叙述过程，我们再用两层网络为例来叙述BP网络的训练步骤。网络的训练步骤。1)用用小小的的随随机机数数对对每每一一层层的的权权值值W初初始始化化，以保证网络不被大的加权输入饱和；以保证网络不被大的加权输入饱和；2)计计算算网网络络各各层层输输出出矢矢量量A1和和A2以以及及网网络络误差误差E3)计算各层反传的误差变化并计算各层权值计算各层反传的误差变化并计算各层权值的修正值以及新权

11、值的修正值以及新权值4)再次计算权值修正后误差平方和：再次计算权值修正后误差平方和：5)检查误差是否小于给定误差，若是，训练检查误差是否小于给定误差，若是，训练结束；否则继续。结束；否则继续。以上所有的学习规则与训练的全过程，仍然可以用以上所有的学习规则与训练的全过程，仍然可以用函数函数trainbp.m来完成。它的使用同样只需要定义来完成。它的使用同样只需要定义有关参数：显示间隔次数，最大循环次数，目标误有关参数：显示间隔次数，最大循环次数，目标误差，以及学习速率，而调用后返回训练后权值，循差，以及学习速率，而调用后返回训练后权值，循环总数和最终误差：环总数和最终误差：TPdisp_freq

12、 max_epoch err_goal 1r；W，B，epochs，errorstrainbp(W，B，F，P，T，TP)；基于基于BP算法的多层前馈网络用图像压缩编码算法的多层前馈网络用图像压缩编码Ackley和和Hinton等人等人1985年提出了利用多层前馈神年提出了利用多层前馈神经网络的模式变换能力实现数据编码的基本思想。经网络的模式变换能力实现数据编码的基本思想。其原理是，把一组输入模式通过少量的隐层节点其原理是，把一组输入模式通过少量的隐层节点映射到一组输出模式，并使输出模式等同于输入映射到一组输出模式，并使输出模式等同于输入模式。当中间隐层的节点数比输入模式维数少时，模式。当中间

13、隐层的节点数比输入模式维数少时，就意味着隐层能更有效的表现输入模式，并把这就意味着隐层能更有效的表现输入模式，并把这种表现传给输出层。在这个过程中，输入层和隐种表现传给输出层。在这个过程中，输入层和隐层的变换可以看成是压缩编码的过程；而隐层和层的变换可以看成是压缩编码的过程；而隐层和输出层的变换可以看成是解码过程。输出层的变换可以看成是解码过程。用多层前馈网实现图像数据压缩时，只需一个隐层，如图用多层前馈网实现图像数据压缩时，只需一个隐层，如图原图像原图像nn重建图像重建图像nn输入层和输出层均含有输入层和输出层均含有n*n个神经元，每个神经元个神经元，每个神经元对应于对应于n*n图像分块中的

14、一个像素。隐层神经元的图像分块中的一个像素。隐层神经元的数量由图像压缩比决定，如数量由图像压缩比决定，如n=16时，取隐层神经时，取隐层神经元数为元数为m=8，则可将则可将256像素的图像块压缩为像素的图像块压缩为像素。像素。通过调整权值使训练集图像的重建误差达到最小。通过调整权值使训练集图像的重建误差达到最小。训练后的网络就可以用来执行图像的数据压缩任训练后的网络就可以用来执行图像的数据压缩任务了，此时隐层输出向量便是数据压缩结果，而务了，此时隐层输出向量便是数据压缩结果，而输出层的输出向量便是图像重建的结果。输出层的输出向量便是图像重建的结果。黑白图像的边缘检测：黑白图像的边缘检测：分析分

15、析BP网络结构特点：网络结构特点：1.BP网络具有一层或多层网络具有一层或多层隐含层，与其他网络模型除隐含层，与其他网络模型除了结构不同外，主要差别表了结构不同外，主要差别表现在激活函数上。现在激活函数上。BP网络的设计网络的设计 2.BP网络的激活函数必须网络的激活函数必须是处处可微的，所以它就不是处处可微的，所以它就不能采用二值型的阀值函数能采用二值型的阀值函数0，1或符号函数或符号函数1，1，BP网络经常使用的是网络经常使用的是S型的型的对数或正切激活函数和线性对数或正切激活函数和线性函数。函数。3.只有当希望对网络的输出只有当希望对网络的输出进行限制，如限制在进行限制，如限制在0和和1

16、之之间，那么在输出层应当包含间，那么在输出层应当包含S型激活函数，在一般情况下，型激活函数，在一般情况下，均是在隐含层采用均是在隐含层采用S型激活函型激活函数，而输出层采用线性激活数，而输出层采用线性激活函数。函数。4、输输入入和和输输出出是是并并行行的的模模拟拟量；量；5、网网络络的的输输入入输输出出关关系系是是各各层层连连接接的的权权因因子子决决定定，没没有有固定的算法；固定的算法；6、权因子是通过学习信号调、权因子是通过学习信号调节的，这样学习越多，网络节的，这样学习越多，网络越聪明；越聪明；7、隐隐含含层层越越多多，网网络络输输出出精精度度越越高高，且且个个别别权权因因子子的的损损坏坏

17、不不会会对对网网络络输输出出产产生生大大的的影响影响BP网络的设计 1 网络的层数：网络的层数：理论上已经证明：具有偏差和至少一个理论上已经证明：具有偏差和至少一个S型型隐含层加上一个线性输出层的网络，能够逼近隐含层加上一个线性输出层的网络，能够逼近任何有理函数。任何有理函数。增加层数主要可以更进一步的降低误差，提增加层数主要可以更进一步的降低误差，提高精度，但同时也使网络复杂化，从而增加了高精度，但同时也使网络复杂化，从而增加了网络权值的训练时间。网络权值的训练时间。一般情况下，应优先考虑增加隐含层中的神一般情况下，应优先考虑增加隐含层中的神经元数。经元数。能不能仅用具有非线性激活函数的单层

18、网络能不能仅用具有非线性激活函数的单层网络来解决问题呢？结论是：没有必要或效果不好。来解决问题呢？结论是：没有必要或效果不好。2 隐含层的神经元数隐含层的神经元数 网络训练精度的提高，可以通过采用网络训练精度的提高，可以通过采用一个隐含层，而增加其神经元数的方法一个隐含层，而增加其神经元数的方法来获得。这在结构实现上，要比增加更来获得。这在结构实现上，要比增加更多的隐含层要简单得多。多的隐含层要简单得多。在具体设计时，比较实际的做法是通在具体设计时，比较实际的做法是通过对不同神经元数进行训练对比，然后过对不同神经元数进行训练对比，然后适当地加上一点余量。适当地加上一点余量。3）初始权值的选取）

19、初始权值的选取一般取初始权值在一般取初始权值在(-1，1)之间的随机数。之间的随机数。在在MATLAB工具箱中可采用函数工具箱中可采用函数initff.m来初始来初始化权值阈值。化权值阈值。由于每次训练时都对权值进行随机初始化，所由于每次训练时都对权值进行随机初始化，所以每次训练得到的网络权值都是不一样的。以每次训练得到的网络权值都是不一样的。4 学习速率学习速率 学习速率决定每一次循环训练中所产学习速率决定每一次循环训练中所产生的权值变化量。生的权值变化量。大的学习速率可能导致系统的不稳定。大的学习速率可能导致系统的不稳定。小的学习速率导致较长的训练时间，小的学习速率导致较长的训练时间，可能

20、收敛很慢，不过能保证网络的误差可能收敛很慢，不过能保证网络的误差值不跳出误差表面的低谷而最终趋于最值不跳出误差表面的低谷而最终趋于最小误差值。小误差值。所以在一般情况下，倾向于选取较小所以在一般情况下，倾向于选取较小的学习速率以保证系统的稳定性。学习的学习速率以保证系统的稳定性。学习速率的选取范围在速率的选取范围在00108之间。之间。5 期望误差的选取期望误差的选取 在设计网络的训练过程中，期望误差值也在设计网络的训练过程中，期望误差值也应当通过对比训练后确定一个合适的值。应当通过对比训练后确定一个合适的值。这个所谓的这个所谓的“合适合适”，是相对于所需要的，是相对于所需要的隐含层的节点数来

21、确定，因为较小的期望误差隐含层的节点数来确定，因为较小的期望误差值是要靠增加隐含层的节点，以及训练时间来值是要靠增加隐含层的节点，以及训练时间来获得的。获得的。一般情况下，作为对比，可以同时对两个一般情况下，作为对比，可以同时对两个不同期望误差值的网络进行训练，最后通过综不同期望误差值的网络进行训练，最后通过综合因素的考虑来确定采用其中一个网络。合因素的考虑来确定采用其中一个网络。BP网络的局限与不足网络的局限与不足(1)需要较长的训练时间需要较长的训练时间 因为涉及到求导的运算，需要的时间较长因为涉及到求导的运算，需要的时间较长(2)训练瘫痪问题训练瘫痪问题通常为了避免这种现象的发生，一是选

22、取较小的通常为了避免这种现象的发生，一是选取较小的初始权值，二是采用较小的学习速率，但这又增初始权值，二是采用较小的学习速率，但这又增加了训练时间。加了训练时间。(3)局部极小值局部极小值BP算法可以使网络权值收敛到一个解，但它算法可以使网络权值收敛到一个解，但它并不能保证所求为误差超平面的全局最小解，并不能保证所求为误差超平面的全局最小解，很可能是一个局部极小解。很可能是一个局部极小解。WEW初始值不合适时，初始值不合适时，可能落入局部极小值。可能落入局部极小值。7.2.11 反向传播法的改进方法 目标：为了加快训练速度，避免陷入局部极小值。目标：为了加快训练速度，避免陷入局部极小值。1 附

23、加动量法附加动量法 附加动量法使网络在修正其权值时，不仅考虑误附加动量法使网络在修正其权值时，不仅考虑误差在梯度上的作用，而且考虑在误差曲面上变差在梯度上的作用，而且考虑在误差曲面上变化趋势的影响，其作用如同一个低通滤波器，化趋势的影响，其作用如同一个低通滤波器，它允许网络忽略网络上的微小变化特性。它允许网络忽略网络上的微小变化特性。利用附加动量的作用则有可能滑过局部极小值。利用附加动量的作用则有可能滑过局部极小值。该方法是在反向传播法的基础上在每一个权该方法是在反向传播法的基础上在每一个权值的变化上加上一项正比于前次权值变化量的值的变化上加上一项正比于前次权值变化量的值，并根据反向传播法来产

24、生新的权值变化。值，并根据反向传播法来产生新的权值变化。附加动量法的实质是将最后一次权值变化的附加动量法的实质是将最后一次权值变化的影响，通过一个动量因子来传递。当动量因子影响，通过一个动量因子来传递。当动量因子取值为零时，权值的变化仅是根据梯度下降法取值为零时，权值的变化仅是根据梯度下降法产生；当动量因子取值为产生；当动量因子取值为1时，新的权值变化时，新的权值变化则是设置为最后一次权值的变化，而依梯度法则是设置为最后一次权值的变化，而依梯度法产生的变化部分则被忽略掉了。产生的变化部分则被忽略掉了。2 误差函数的改进误差函数的改进 包穆包穆(Baum)等人于等人于1988年提出一种误差函数为

25、：年提出一种误差函数为：不会产生不能完全训练的瘫痪现象。不会产生不能完全训练的瘫痪现象。3 自适应学习速率自适应学习速率 学习率学习率也称步长，在标准也称步长，在标准BP 算法中定为常数，算法中定为常数，然而在实际应用中，很难确定一个从始至终都然而在实际应用中，很难确定一个从始至终都合适的最佳学习率，从误差曲面可以看出，平合适的最佳学习率，从误差曲面可以看出，平坦区域内坦区域内太小会使训练次数增加而希望增大太小会使训练次数增加而希望增大值；而在误差变化剧烈的区域，值；而在误差变化剧烈的区域，太大会因调整太大会因调整量过大而跨过较宰的量过大而跨过较宰的“坑凹坑凹”处，使训练出现处，使训练出现振荡

26、，反而使迭代次数增加。振荡，反而使迭代次数增加。为了加速收敛过程，一个较好的思路是自适应为了加速收敛过程，一个较好的思路是自适应改变学习率，使其该大时增大，该小时减小。改变学习率，使其该大时增大，该小时减小。通常调节学习速率的准则是：检查权值的通常调节学习速率的准则是：检查权值的修正值是否真正降低了误差函数，如果确实修正值是否真正降低了误差函数，如果确实如此，则说明所选取的学习速率值小了，可如此，则说明所选取的学习速率值小了，可以对其增加一个量；若不是这样，而产生了以对其增加一个量；若不是这样，而产生了过调，那么就应该减小学习速率的值。下式过调，那么就应该减小学习速率的值。下式给出了一种自适应

27、学习速率的调整公式：给出了一种自适应学习速率的调整公式：MATLAB工具箱中带有自适应学习速率进行反向传播训工具箱中带有自适应学习速率进行反向传播训练的函数为：练的函数为：trainbpa.m。它可以训练直至三层网络。它可以训练直至三层网络。使用方法为：使用方法为：W，B，epochs，TEtrainbpa(W，B，F，P，T，TP)可以将动量法和自适应学习速率结合起来以利用可以将动量法和自适应学习速率结合起来以利用两方面的优点。这个技术已编入了函数两方面的优点。这个技术已编入了函数trainbpx.m之中。这个函数的调用和其他函数一之中。这个函数的调用和其他函数一样，只是需要更多的初始参数而

28、已：样，只是需要更多的初始参数而已：TPdisp_freq max_epoch error_goal lr 1r_inc 1r_dec mom_const err_ratio；W，B，epochs，error;lrtrainbpx(W，B，F，P，T，TP)本章小结 1)反反向向传传播播法法可可以以用用来来训训练练具具有有可可微微激激活活函函数数的的多多层层前前向向网网络络以以进进行行函函数数逼逼近近，模模式式分分类类等等工工作；作；2)反反向向传传播播网网络络的的结结构构不不完完全全受受所所要要解解决决的的问问题题所所限限制制。网网络络的的输输入入神神经经元元数数目目及及输输出出层层神神经经

29、元元的的数数目目是是由由问问题题的的要要求求所所决决定定的的，而而输输入入和和输输出出层层之之间间的的隐隐含含层层数数以以及及每每层层的的神神经经元元数数是是由设计者来决定的；由设计者来决定的；3)已已证证明明，两两层层S型型线线性性网网络络，如如果果S型型层层有有足足够够的的神神经经元元，则则能能够够训训练练出出任任意意输输入入和和输输出出之之间间的有理函数关系；的有理函数关系；4)反反向向传传播播法法沿沿着着误误差差表表面面的的梯梯度度下下降降，使使网网络络误差最小，网络有可能陷入局部极小值；误差最小，网络有可能陷入局部极小值；5)附附加加动动量量法法使使反反向向传传播播减减少少了了网网络

30、络在在误误差差表表面面陷入低谷的可能性并有助于减少训练时间；陷入低谷的可能性并有助于减少训练时间；6)太太大大的的学学习习速速率率导导致致学学习习的的不不稳稳定定，太太小小值值又又导导致致极极长长的的训训练练时时间间。自自适适应应学学习习速速率率通通过过在在保保证证稳稳定定训训练练的的前前提提下下，达达到到了了合合理理的的高高速速率率，可以减少训练时间；可以减少训练时间；7)8090的的实实际际应应用用都都是是采采用用反反向向传传播播网网络络的的。改改进进技技术术可可以以用用来来使使反反向向传传播播法法更更加加容容易易实现并需要更少的训练时间。实现并需要更少的训练时间。1985年年 Powel

31、l提提出出多多变变量量插插值值的的径径向向基基函函数（数（Radial Basis Function,RBF）方法；方法；1988年年 Broomhead&Lowe将将 RBF应应 用用于神经网络于神经网络7.3 RBF神经网络RBF网络网络径向基函数网络（径向基函数网络（Radial Basis Function，简称简称RBFNN）x1x2xny1yp输输 入入输输 出出是一种三层前馈网络是一种三层前馈网络网络特点：网络特点：）结构相对简单）结构相对简单）在参数（节点数，）在参数（节点数，,）选择合适时，收敛选择合适时，收敛速度快速度快三层三层输入层输入层隐层隐层神经元函数多采用高斯函数神

32、经元函数多采用高斯函数输出层输出层线性神经元函数线性神经元函数构成构成RBF网络的基本思想：网络的基本思想：1）用）用RBF作为隐单元的作为隐单元的“基基”构成隐构成隐含层空间，将输入矢量直接映射到隐空含层空间，将输入矢量直接映射到隐空间（不通过权连接）；间（不通过权连接）；2）网络输出时隐单元输出的线性加权）网络输出时隐单元输出的线性加权和，（通过权连接可调参数）和，（通过权连接可调参数）输入输入 隐层隐层 输出输出 非线性非线性 线性线性 （高斯核函数）（高斯核函数）c该激活函数具有局部感受能力，只有输入落入该激活函数具有局部感受能力，只有输入落入某个范围内，才有明显输出，不象某个范围内，

33、才有明显输出，不象BP，输入输入在（在（，）均有输出。）均有输出。隐含层节点核函数作用：隐含层节点核函数作用：对输入信号在局部产生响应对输入信号在局部产生响应网络输出采用高斯基函数的优点：采用高斯基函数的优点：1）表示形式简单）表示形式简单2）径向对称）径向对称3）光滑性好，任意阶导数存在）光滑性好，任意阶导数存在4）便于进行理论分析）便于进行理论分析学习过程分为两个阶段：第一阶段第一阶段无教师学习（根据样本决无教师学习（根据样本决定隐含层各节点的高斯核函数的中心向定隐含层各节点的高斯核函数的中心向量量ci和标准化常数和标准化常数bi）第二阶段第二阶段有教师学习（求权值有教师学习（求权值wki

34、)RBF网络的学习算法：网络的学习算法：）无教师（监督）学习）无教师（监督）学习修改修改j，j）有教师（监督）学习有教师（监督）学习修改修改wj，j无教师学习阶段将训练样本集中的输入向量分为若干族，在每个将训练样本集中的输入向量分为若干族，在每个数据族内找出一个径向基函数中心向量，使得该数据族内找出一个径向基函数中心向量，使得该族内各样本向量距该族中心的距离最小族内各样本向量距该族中心的距离最小算法步骤：算法步骤：1）给定初始中心向量和判定停止计算的）给定初始中心向量和判定停止计算的2）计算距离并求最小距离节点）计算距离并求最小距离节点3）调整中心）调整中心4）判定聚类质量）判定聚类质量BPB

35、P全局逼近的神经网络全局逼近的神经网络RBFRBF局部逼近的神经网络局部逼近的神经网络BP算法：在函数逼近时算法：在函数逼近时采用负梯度下降法采用负梯度下降法调节权值调节权值 缺点：收敛速度慢；局部极小值缺点：收敛速度慢；局部极小值RBF算法：按时间片训练网络，局部逼近，可算法：按时间片训练网络，局部逼近，可以以任意精度逼近任一连续函数。以以任意精度逼近任一连续函数。BP与与RBF结构的区别：结构的区别：隐含层隐含层激发函数激发函数RBF结构：结构：具有单隐含层的两层前向网络，具有单隐含层的两层前向网络，隐含层的激发函数：隐含层的激发函数：RBF结构比较结构比较 反传（反传（BPBP）网络的结

36、构图）网络的结构图 一个输入层，一个输出层，多个隐层。一个输入层，一个输出层，多个隐层。jpp1xp1x pnt pkt pmOp1O pnOp2隐层wj1wjn输入层输入层隐层隐层输出层输出层信息流pm激发函数：激发函数：S函数函数RBF网络有关问题RBF与与BP主要不同点在非线性映射上采用了不主要不同点在非线性映射上采用了不同的作用函数同的作用函数RBF网络具有唯一最佳逼近，无局部极小网络具有唯一最佳逼近，无局部极小RBF网络难点在于中心向量和标准化常数的求网络难点在于中心向量和标准化常数的求解解如何选择合适径向基函数，如何确定隐节点数如何选择合适径向基函数，如何确定隐节点数无解决办法无解决办法由于隐节点的中心难求，影响其发展推广由于隐节点的中心难求，影响其发展推广RBF学习速度快，适于在线实时控制学习速度快，适于在线实时控制此课件下载可自行编辑修改，仅供参考！此课件下载可自行编辑修改，仅供参考！感谢您的支持，我们努力做得更好！谢谢感谢您的支持，我们努力做得更好！谢谢