径向基神经网络学习算法(RBF)ppt课件.pptx

《径向基神经网络学习算法(RBF)ppt课件.pptx》由会员分享，可在线阅读，更多相关《径向基神经网络学习算法(RBF)ppt课件.pptx（25页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。径向基神经网络及其算法径向基神经网络及其算法Mezer chen2018.5.9本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。RBF简介 19891989年，年，MoodyMoody和和DarkenDarken提出了一种由两个阶段组成的混提出了一种由两个阶段组成的混合学习过程的思路。合学习过程的思路。无监督的自组

2、织学习阶段无监督的自组织学习阶段 有监督学习阶段有监督学习阶段 其任务是用自组织聚类方法为隐其任务是用自组织聚类方法为隐层节点的径向基函数确定合适的层节点的径向基函数确定合适的数据中心，并根据各中心之间的数据中心，并根据各中心之间的距离确定隐节点的扩展常数。距离确定隐节点的扩展常数。一般采用一般采用Duda和和Hart1973年提年提出的出的k-means聚类算法。聚类算法。其任务是用有监督其任务是用有监督学习算法训练输出学习算法训练输出层权值，一般采用层权值，一般采用梯度法进行训练。梯度法进行训练。本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计

3、和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。RBF网络的工作原理网络的工作原理本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。RBF网络特点网络特点l只有一个隐含层，且隐层神经元与输出层神经元的模型不同。只有一个隐含层，且隐层神经元与输出层神经元的模型不同。l隐层节点激活函数为隐层节点激活函数为径向基函数径向基函数，输出层节点激活函数为，输出层节点激活函数为线线性函数性函数。l隐层节点激活函数的净输入是输入向量与节点中心的距离隐层节点激活函数的净输入

4、是输入向量与节点中心的距离（范数）而非向量内积，且节点中心不可调。（范数）而非向量内积，且节点中心不可调。l隐层节点参数确定后，输出权值可通过解线性方程组得到。隐层节点参数确定后，输出权值可通过解线性方程组得到。l隐层节点的隐层节点的非线性变换非线性变换把线性不可分问题转化为线性可分问把线性不可分问题转化为线性可分问题。题。l局部逼近网络（局部逼近网络（MLPMLP是全局逼近网络是全局逼近网络)，这意味着逼近一个输，这意味着逼近一个输入输出映射时，在相同逼近精度要求下，入输出映射时，在相同逼近精度要求下，RBFRBF所需的时间要比所需的时间要比MLPMLP少。少。l具有唯一最佳逼近的特性，无局

5、部极小。具有唯一最佳逼近的特性，无局部极小。l合适的隐层节点数、节点中心和宽度不易确定。合适的隐层节点数、节点中心和宽度不易确定。本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。RBF神经网络中心选取神经网络中心选取 从样本输入中选取从样本输入中选取中心中心一般来说一般来说，样本密集的地方中心点可以适当多些，样本，样本密集的地方中心点可以适当多些，样本稀疏的地方中心点可以少些；若数据本身是均匀分布的，中稀疏的地方中心点可以少些；若数据本身是均匀分布的，中心点也可以均匀分布。总之

6、，选出的数据中心应具有代表性。心点也可以均匀分布。总之，选出的数据中心应具有代表性。径向基函数的扩展常数是根据数据中心的散布而确定的，为径向基函数的扩展常数是根据数据中心的散布而确定的，为了避免每个径向基函数太尖或太平，一种选择方法是将所有了避免每个径向基函数太尖或太平，一种选择方法是将所有径向基函数的扩展常数设为径向基函数的扩展常数设为本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。自组织选取中心法常采用各种动态聚类算法对数据中心进行自组织选择，在学习过程中需对数据中心的位置

7、进行动态调节。常用的方法是K-means聚类，其优点是能根据各聚类中心之间的距离确定各隐节点的扩展常数。由于RBF网的隐节点数对其泛化能力有极大的影响，所以寻找能确定聚类数目的合理方法，是聚类方法设计RBF网时需首先解决的问题。除聚类算法外，还有梯度训练方法、资源分配网络(RAN)等本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。随机选取中心法随机选取中心法条件：典型的训练样本，隐含单元的中心是条件：典型的训练样本，隐含单元的中心是 随机的在输入随机的在输入样本中选取，且中心固

8、定。因此此算法学习的参数只样本中选取，且中心固定。因此此算法学习的参数只有两个：方差和权值有两个：方差和权值 正交最小二乘法选取正交最小二乘法选取 RBF神经网络的性能严重依赖于所选择的中心数目和神经网络的性能严重依赖于所选择的中心数目和位置是否合适实际中，人们一般是随机地从输入模式中选位置是否合适实际中，人们一般是随机地从输入模式中选择中心，或用某种聚类算法择中心，或用某种聚类算法(如如:K均值算法均值算法)选择出确定数选择出确定数目的中心，这样通常导致所设计的网络性能不是很差就是目的中心，这样通常导致所设计的网络性能不是很差就是规模过大，甚至造成数值病态问题规模过大，甚至造成数值病态问题.

9、Chen,Cowan,Grant(1992）提出的）提出的OLS(正交最小二乘正交最小二乘)前向选择算法将前向选择算法将RBF中心的选择归结为线性回归中子模型的选择问题。这种算中心的选择归结为线性回归中子模型的选择问题。这种算法能自动地避免网络规模过大和随机选择中心带来的数值法能自动地避免网络规模过大和随机选择中心带来的数值病态问题，是一种有效的自动选择中心的算法。病态问题，是一种有效的自动选择中心的算法。本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。1.Gaussian（高

10、斯）函数：（高斯）函数：2.Reflected sigmoidal(反常反常S型型)函数：函数：3.逆逆Multiquadric函数函数(逆畸变校正逆畸变校正)函数：函数：称为基函数的扩展常数称为基函数的扩展常数或宽度，或宽度，越小，径向基越小，径向基函数的宽度越小，基函数函数的宽度越小，基函数就越有选择性。就越有选择性。径向基神经网络传递函数径向基神经网络传递函数本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。RBF神经网络两种模型神经网络两种模型正则化网络正则化网络RN广义

11、网络广义网络GN通用逼近器通用逼近器模式分类模式分类基本思想：基本思想：通过加入一个含有解的先验知识的约束来通过加入一个含有解的先验知识的约束来控制映射函数的光滑性，若控制映射函数的光滑性，若输入输出输入输出映射映射函数是光滑的，则重建问题的解是连续的，函数是光滑的，则重建问题的解是连续的，意味着相似的输入对应着相似的输出。意味着相似的输入对应着相似的输出。基本思想：基本思想：用径向基函数作为隐单元的用径向基函数作为隐单元的“基基”，构成隐含，构成隐含层空间。隐含层对输入向量进行变换，将低维层空间。隐含层对输入向量进行变换，将低维空间的模式变换到高维空间内，使得在低维空间的模式变换到高维空间内

12、，使得在低维空间内的线性不可分问题在高维空间内线性可分。空间内的线性不可分问题在高维空间内线性可分。本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。两种模型的比较两种模型的比较隐节点数隐节点数=输入样本数输入样本数隐节点数隐节点数输入样本数输入样本数 所有输入样本设为所有输入样本设为径向基函数的中心径向基函数的中心径向基函数的中心径向基函数的中心由训练算法确定由训练算法确定径向基函数径向基函数取统一的扩展常数取统一的扩展常数径向基函数的扩展常数径向基函数的扩展常数不再统一由训练

13、算法确定不再统一由训练算法确定没有设置阈值没有设置阈值输出函数的线性中包含阈值参数，输出函数的线性中包含阈值参数，用于补偿基函数在样本集上的平均用于补偿基函数在样本集上的平均值，比较目标值与平均值的值，比较目标值与平均值的差别。差别。正规化网络正规化网络广义网络广义网络本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。全局逼近和局部逼近全局逼近和局部逼近全局逼近网络全局逼近网络局部逼近网络局部逼近网络当神经网络的一个或多个可当神经网络的一个或多个可调参数调参数(权值和阈值权值和阈

14、值)对任何对任何一个输出都有影响，则称该一个输出都有影响，则称该神经网络为全局逼近网络。神经网络为全局逼近网络。对网络输入空间的某个局对网络输入空间的某个局部区域只有少数几个连接部区域只有少数几个连接权影响网络的输出，则称权影响网络的输出，则称该网络为局部逼近该网络为局部逼近网络。网络。学习速度很慢，无法满足实时性要求的应用学习速度很慢，无法满足实时性要求的应用学习速度快，有可能满足有实时性要求的应用学习速度快，有可能满足有实时性要求的应用本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并

15、增补指标。函数逼近问题（内插值）函数逼近问题（内插值）本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。模式分类模式分类低维空间：线性不可分低维空间：线性不可分 高维空间：线性可分高维空间：线性可分空间转换空间转换关关于于对对单单层层感感知知器器的的讨讨论论可可知知，若若N维维输输入入样样本本空空间间的的样样本本模模式式是是线线性性可可分分的的，总总存存在在一一个个用用线线性性方方程程描描述述的的超超平平面面，使使两两类类线线性性可可分分样样本本截截然然分分开开。若若两两类类样样

16、本本是是非非线线性性可可分分的的，则则不不存存在在一一个个这这样样的的分分类类超超平平面面。但但根根据据Cover定定理理，非非线线性性可可分分问问题题可可能能通通过过非非线线性性变变换换获获得得解解决决。Cover定理可以定性地表述为：将复杂的模式分类定理可以定性地表述为：将复杂的模式分类问题投问题投射射到高维到高维空间比空间比投射到低维空间更可能是线性可分的投射到低维空间更可能是线性可分的本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。RBF网络训练网络训练本标准适用于已投

17、入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅

18、炉以及联合循环机组可参照本标准执行，并增补指标。本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机

19、组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。RBF学习算法总结本标准适用于已投入商业运行的火力发电厂纯凝式汽轮发电机组和供热汽轮发电机组的技术经济指标的统计和评价。燃机机组、余热锅炉以及联合循环机组可参照本标准执行，并增补指标。