神经网络控制及其应用 (2)幻灯片.ppt

《神经网络控制及其应用 (2)幻灯片.ppt》由会员分享，可在线阅读，更多相关《神经网络控制及其应用 (2)幻灯片.ppt（54页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、神经网络控制及其应用第1页，共54页，编辑于2022年，星期一1.1.神经网络控制产生的背景神经网络控制产生的背景 自动控制面临着两个方面的技术问题自动控制面临着两个方面的技术问题（1）控制对象）控制对象越来越复杂越来越复杂，存在着多种不确定（随机性）和难以，存在着多种不确定（随机性）和难以确切描述的确切描述的非线性非线性。（2）对控制系统的要求）对控制系统的要求越来越高越来越高，迫切要求提高控制系统的，迫切要求提高控制系统的智能智能化化水平，即系统具有水平，即系统具有逻辑思维和推理判断逻辑思维和推理判断的能力。的能力。神经网络为处理和解决上述问题提供了一条新的途径神经网络为处理和解决上述问题

2、提供了一条新的途径（1）神经网络源于）神经网络源于对脑神经的模拟对脑神经的模拟，所以具有很强的适应，所以具有很强的适应于复杂环境和多目标控制要求的于复杂环境和多目标控制要求的自学习能力自学习能力。（2）具有以）具有以任意精度逼近任意非线性连续函数任意精度逼近任意非线性连续函数的特性。的特性。第2页，共54页，编辑于2022年，星期一2.神经网络的应用神经网络的应用航空航空:高性能飞行器自动驾驶、飞行路径模拟、高性能飞行器自动驾驶、飞行路径模拟、飞行部件模拟、飞行部件故障检测飞行部件模拟、飞行部件故障检测汽车汽车:汽车自动导航仪汽车自动导航仪 国防国防:武器操纵、目标跟踪、面部识别、雷达武器操纵

3、、目标跟踪、面部识别、雷达 和图像信号处理、新型传感器、声纳和图像信号处理、新型传感器、声纳 制造：制造：生产流程控制、过程和机器诊断、机器生产流程控制、过程和机器诊断、机器性能分析、化工流程动态建模、项目投标性能分析、化工流程动态建模、项目投标 机器人：机器人：轨道控制、操作手控制、视觉系统轨道控制、操作手控制、视觉系统 语音：语音：语音识别、语音压缩语音识别、语音压缩 还有还有金融、保险、银行、医疗、交通、电讯、电金融、保险、银行、医疗、交通、电讯、电子、石油天然气、有价证券、娱乐等行业。子、石油天然气、有价证券、娱乐等行业。第3页，共54页，编辑于2022年，星期一3.生物学的启示生物学

4、的启示 4.人工神经元人工神经元 输入输入 输出输出 j=1,2mi=1,2nyjQjXnX2fX1图图2 单神经元结构图单神经元结构图 轴突轴突细胞体细胞体树突树突树树突突轴突轴突突触突触细胞体细胞体树树突突图图1 生物神经元的简图生物神经元的简图(发射发射)(接收接收)(连接连接)第4页，共54页，编辑于2022年，星期一为简便起见，也可把网络的阈值以连接数值的形式表示出来，即为简便起见，也可把网络的阈值以连接数值的形式表示出来，即令，则令，则 式中式中 为其它神经元传至本神经元的输入信号，为其它神经元传至本神经元的输入信号，神经元神经元j的阈值，此阈值决定了该神经元的兴奋与否；的阈值，此

5、阈值决定了该神经元的兴奋与否；表示从神经元表示从神经元i到神经元到神经元j的连接权值；的连接权值；称为激励函数（也有称为响应函数或传输函数）。称为激励函数（也有称为响应函数或传输函数）。权值权值表示相邻的神经元相互连接的程度表示相邻的神经元相互连接的程度阈值阈值即决定神经元的兴奋与否，决定兴奋与抑制即决定神经元的兴奋与否，决定兴奋与抑制激励函数激励函数可为线性函数也可为非线性函数。它是用可为线性函数也可为非线性函数。它是用来实现输入对输出函数关系的静态映射，它决定了来实现输入对输出函数关系的静态映射，它决定了神经元的单元特性。神经元的单元特性。第5页，共54页，编辑于2022年，星期一常用的神

6、经元非线性函数常用的神经元非线性函数x10f(x)图图3 阶跃函数阶跃函数f(x)x1-1图图4 sgn函数函数 1=1f(x)0 x=0.2=5图图5 S状函数状函数（1）阶跃函数）阶跃函数（2）Sgn函数函数（3）S状函数状函数 第6页，共54页，编辑于2022年，星期一5.神经网络模型的组成神经网络模型的组成 5.1神经网络连接的结构形式神经网络连接的结构形式 输输出出层层输输入入层层隐含层隐含层神经元神经元yny2y1XnX2X1图图6 前向网络前向网络 神经元神经元网络中神经元是分层排列，每个神经元只与网络中神经元是分层排列，每个神经元只与前一层的神经元相连接，分为前一层的神经元相连

7、接，分为输入层输入层，隐含层隐含层（一（一层或多层）和层或多层）和输出层输出层。（1）前向网络）前向网络第7页，共54页，编辑于2022年，星期一（2）反馈前向网络）反馈前向网络 网络本身是前向型，但从输出到输入有反馈。网络本身是前向型，但从输出到输入有反馈。yny2y1XnX2X1图图7 反馈前向网络反馈前向网络 图图8 互连网络互连网络（3）互连网络）互连网络 任意两个神经元之间都可能有连接，因此输入信号任意两个神经元之间都可能有连接，因此输入信号要在神经元之间反复往返传递。要在神经元之间反复往返传递。第8页，共54页，编辑于2022年，星期一5.2BP网络的结构网络的结构 BP网络网络是

8、一单向传播的多层是一单向传播的多层前向网络前向网络，其结构图如图，其结构图如图6所示所示BP网络可看成是一从网络可看成是一从输入到输出的高度非线性映输入到输出的高度非线性映射网络射网络。（1）输入层神经元数）输入层神经元数（2）隐含层神经元数）隐含层神经元数（3）隐含层数的确定）隐含层数的确定（4）输出层神经元数的确定）输出层神经元数的确定 BP网络各层的神经元数（即节点数）及隐含层层网络各层的神经元数（即节点数）及隐含层层数的确定如下：数的确定如下：第9页，共54页，编辑于2022年，星期一6.神经网络的学习神经网络的学习 当神经网络的结构确定之后，关键问题是设计当神经网络的结构确定之后，关

9、键问题是设计一个一个学习速度快，收敛性好的学习速度快，收敛性好的学习算法学习算法。要求网络本身必须具有学习功能，即能够从示要求网络本身必须具有学习功能，即能够从示教模式的学习中逐渐教模式的学习中逐渐调整权值调整权值和和阈值阈值，使网络整体具有，使网络整体具有近似函数或处理信息的功能。近似函数或处理信息的功能。（1）有教师学习）有教师学习（2）无教师学习）无教师学习 6.1网络学习方式网络学习方式第10页，共54页，编辑于2022年，星期一广泛应用的有教师学习的算法广泛应用的有教师学习的算法BP（Back Propagation）算法）算法 BP算法即是误差反向传播算法算法即是误差反向传播算法，

10、该方法已成为神经网络学习中最常用的方法之一。，该方法已成为神经网络学习中最常用的方法之一。BP算法算法一般是应用梯度下降原理，一般是应用梯度下降原理，样本输入信号样本输入信号在神经网络中在神经网络中正向传播正向传播，应用了多层前向神经，应用了多层前向神经网络具有网络具有的的以任以任意精度逼近非线性函数意精度逼近非线性函数的能力的能力。而而网络输出与样本给定输出值之差（误差）网络输出与样本给定输出值之差（误差）在网络中在网络中是反向传播，用是反向传播，用于网络的权值的训练。于网络的权值的训练。输出层输出层LC隐含层隐含层LB输入层输入层LAWpqWiqWijW1qW1jVnpVniVn1VhpV

11、hiVh1V1pV1iW11V11a1ahanb1bibpc1cjcq图图9 基本基本BP网络的拓扑结构网络的拓扑结构 第11页，共54页，编辑于2022年，星期一5.2网络的计算网络的计算 对对BP控制网络进行控制网络进行训练训练时，首先要提供时，首先要提供训练样本训练样本，样，样本可以形式化为本可以形式化为样本对样本对或称或称模式对模式对()其中其中Ak为第为第k个样本的输入模式个样本的输入模式()Ck为希望输出模式为希望输出模式()它们分别对应于它们分别对应于LA层的层的n个神经元和个神经元和Lc层的层的q个神经元。个神经元。当当网网络络的的实实际际输输出出与与希希望望输输出出一一致致时

12、时，学学习习过过程程结结束束。否否则则学学习习系系统统将将根根据据实实际际输输出出和和希希望望输输出出之之间间的的误误差差，通过通过调整连接权值调整连接权值使网络的实际输出趋向于希望输出。使网络的实际输出趋向于希望输出。第12页，共54页，编辑于2022年，星期一 BP网络样本输入学习算法程序框图如图网络样本输入学习算法程序框图如图10所所示。并以图示。并以图1111三层（三层（LA，LB，LC）BP神经网络为例神经网络为例进行学习过程的演示进行学习过程的演示。结束结束输入学习样本输入学习样本求隐含层、输出层神经元的输出求隐含层、输出层神经元的输出计算实际输出值与目标值的误差计算实际输出值与目

13、标值的误差误差满足要求？反向计算调整权值和阈值反向计算调整权值和阈值YN初始化初始化第13页，共54页，编辑于2022年，星期一 三层三层BP神经网络拓扑结构神经网络拓扑结构 W11V11b1W12W32W31W22W21V23V22V21V13V12U2=1U1=1a1a2b2b3c1c200图图11 三层三层BP神经网络拓扑结构神经网络拓扑结构 第14页，共54页，编辑于2022年，星期一BP三层神经网络学习算法各种参数及计算公式见表三层神经网络学习算法各种参数及计算公式见表1。层名1 12 23 34 45 56 67 78 89 91010符号及公式参数名神经元数初始权值矩阵初始阈值矩

14、阵第k个样本对值输入值输出值误 差学习率阈值调整权值调整输入层隐含层输出层第15页，共54页，编辑于2022年，星期一学习训练步骤如下：学习训练步骤如下：第第1步：网络初始化步：网络初始化输入层输入层LA的权值的权值U=1,U=1,阈值阈值=0=0输入层输入层LA到隐含层到隐含层LB的权值矩阵为的权值矩阵为 隐含层隐含层LB到输出层到输出层LC权值矩阵为权值矩阵为 隐含层隐含层LB各神经元阈值为各神经元阈值为 输出层输出层LC各神经元阈值为各神经元阈值为以一个样本对即以一个样本对即k=1为例，样本输入为例，样本输入 ，样本输出样本输出 。第16页，共54页，编辑于2022年，星期一图图12 1

15、2 三层三层BPBP神经网络拓扑结构神经网络拓扑结构第17页，共54页，编辑于2022年，星期一第第2步：样本正向输入，进行前向计算步：样本正向输入，进行前向计算 输入样本为输入样本为 ,其输入层的输出为其输入层的输出为a1和和a2。对于输入层，给定每个神经元的权值对于输入层，给定每个神经元的权值 为为1，阈值为阈值为0，其激励函数为，其激励函数为S型函数，则型函数，则第18页，共54页，编辑于2022年，星期一第第1个神经元的输出值为个神经元的输出值为 则则 层神经元的加权输入，根据层神经元的加权输入，根据 为为 第19页，共54页，编辑于2022年，星期一 层层的实际输出值，根据式的实际输

16、出值，根据式 和式和式 计算，则计算，则根据式根据式 求激励函数为求激励函数为S型情况型情况下的下的b值为值为 则则 第20页，共54页，编辑于2022年，星期一根据式根据式 计算第计算第k=1k=1样本对样本对L LC C层神经元的加权输层神经元的加权输入为入为 根据式根据式 求求L LC C层神经元的实际输层神经元的实际输出值出值 则则 第21页，共54页，编辑于2022年，星期一第第3步：进行误差计算步：进行误差计算根据式根据式 和样本期量值和样本期量值进行输出层进行输出层L LC C误差计算误差计算 则则 通过给定的精度系数可判断输出层通过给定的精度系数可判断输出层LC的误差值的误差值

17、d是否满足是否满足要求，如果不满足，则需进行反向传播计算，通过修正权值要求，如果不满足，则需进行反向传播计算，通过修正权值和阈值使其逼近给定精度系数。和阈值使其逼近给定精度系数。第22页，共54页，编辑于2022年，星期一 第第4步：反向传播计算步：反向传播计算（1 1）隐含层）隐含层L LB B一般化误差的计算一般化误差的计算根据式根据式 计算隐含层计算隐含层L LB B一般化一般化误差为误差为 则则 第23页，共54页，编辑于2022年，星期一（2）隐含层）隐含层Lb和输出层和输出层Lc权值的调整权值的调整根据式根据式 调整其调整其LB至至LC权值，则按学习步权值，则按学习步长（也称学习率

18、）的范围：长（也称学习率）的范围：给定给定 。则则 第24页，共54页，编辑于2022年，星期一(3)(3)根据式根据式 调整调整LA至至LB权值权值,则则 按步长范围：按步长范围：,给定给定 则则 第25页，共54页，编辑于2022年，星期一（4）网络输出层）网络输出层Lc和隐含层和隐含层Lb阈值的调整值计算阈值的调整值计算根据式根据式 调整调整L Lc c层阈值层阈值 则则(5)(5)根据式根据式 调整调整LB层阈值为层阈值为 第26页，共54页，编辑于2022年，星期一 则则（6 6）计算调整后的权值和阈值）计算调整后的权值和阈值隐含层隐含层LBLB至输出层至输出层LCLC的权值，得的权

19、值，得第27页，共54页，编辑于2022年，星期一 输入层输入层L LA A至隐含层至隐含层L LB B的权值，由式得的权值，由式得输出层输出层LC阈值根据式得阈值根据式得 第28页，共54页，编辑于2022年，星期一 隐含层隐含层LB阈值，根据式得阈值，根据式得 经过上述计算在输出层经过上述计算在输出层LC的误差值的误差值d未满足精度要求的情况下，未满足精度要求的情况下，完成了第完成了第1次权值和阈值的调整训练。经反向计算调整后需按次权值和阈值的调整训练。经反向计算调整后需按程序框图程序框图12的流程和上述计算方法再计算输出层的流程和上述计算方法再计算输出层LC误差值误差值d，其运算过程不再

20、全部列出，只是直接给出将调整后其运算过程不再全部列出，只是直接给出将调整后LB层和层和LC层的输出值和误差值层的输出值和误差值。第29页，共54页，编辑于2022年，星期一 LB层的输出值层的输出值 LB层的误差值层的误差值 LC层的输出值层的输出值 LC层的误差值层的误差值 第30页，共54页，编辑于2022年，星期一在此根据在此根据LC层的误差值层的误差值d判断是否满足给定的精度系数，判断是否满足给定的精度系数，如果不满足再进行第如果不满足再进行第2次的循环调整，再从第次的循环调整，再从第2步开始步开始运行，以后为了简化只给出调整结果。运行，以后为了简化只给出调整结果。第第2次循环调整次循

21、环调整 LC层至层至LB层的权值调整层的权值调整 LB层至层至LA层的权值调整层的权值调整 第31页，共54页，编辑于2022年，星期一LC层阈值的调整层阈值的调整 LB层阈值的调整层阈值的调整 LB层的输出值层的输出值 LB层的误差值层的误差值 Lc层的输出值层的输出值Lc层的误差值层的误差值 第32页，共54页，编辑于2022年，星期一第第3次循环调整次循环调整 LC层至层至LB层的权值调整层的权值调整 LB层至层至LA层的权值调整层的权值调整 第33页，共54页，编辑于2022年，星期一LC层阈值的调整层阈值的调整 LB层阈值的调整层阈值的调整 LB层的输出值层的输出值 LB层的误差值层

22、的误差值 第34页，共54页，编辑于2022年，星期一LC层的输出值层的输出值 LC层的误差值层的误差值 第第999次循环调整次循环调整 LC层至层至LB层的权值调整层的权值调整 LB层至层至LA层的权值调整层的权值调整 第35页，共54页，编辑于2022年，星期一LC层的阈值为层的阈值为 LB层的阈值为层的阈值为 LB层的输出值层的输出值 LB层的误差值层的误差值 LC层的输出值层的输出值 LC层的误差值层的误差值 第36页，共54页，编辑于2022年，星期一 BP神经网络样本神经网络样本输入信号正向传播输入信号正向传播和和误差反向误差反向传播传播的过程，就是在的过程，就是在不断地调整权值和

23、阈值不断地调整权值和阈值的过的过程，可以程，可以使网络以任意精度逼近任意非线性函数使网络以任意精度逼近任意非线性函数，也就是随着循环调整次数的增加也就是随着循环调整次数的增加，其，其输出层的误输出层的误差值差值d在不断地减小，直至趋近于零在不断地减小，直至趋近于零，这是总的趋，这是总的趋势，但不排除在训练过程中出现势，但不排除在训练过程中出现d值增大的现象，值增大的现象，特别是前些次调整，本例的最初几次调整特别是前些次调整，本例的最初几次调整,d值可能有值可能有所增大。产生这种现象的原因是网络学习训练过程中所增大。产生这种现象的原因是网络学习训练过程中出现振荡现象。这与学习率出现振荡现象。这与

24、学习率 和和 的取值有关，和的取值有关，和 的的值取的过大就会出现振荡现象。值取的过大就会出现振荡现象。第37页，共54页，编辑于2022年，星期一 电火花线切割加工是用直径为0.02-0.3mm不断移动的铜丝或钨丝等作为电极，根据被加工工件的形状要求，编制数字程序控制工作台的运动，对安装在工作台上的工件实现电火花线切割加工。对于在线切割机床上加工工件，经常被人们关注的影响表面质量和生产率的主要技术指标是：被加工工件的表面粗糙度Ra（m）和在一定厚度下的表面切割速度（mm2/min）。而影响这两项指标的加工工艺参数分别是工件厚度、脉冲电流的脉宽、脉间、幅值及平均加工电流。而这5项工艺参数均以不

25、同的程度、错综复杂地影响着这两项技术指标，而且难以用数学模型进行综合性表达。但从生产需要出发，还必须了解并掌握它们之间的影响规律，故采用神经网络的技术手段通过以下步骤来实现这一目的。现以BP神经网络的学习算法实现对线切割加工质量及效率的控制。6 基于BP神经网络的线切割加工质量及效率控制第38页，共54页，编辑于2022年，星期一10.6.1线切割加工BP神经网络的设计1.BP网络的结构确定BP网络为前向网络结构，各层的神经元数和隐含层数的确定是要根据所研究对象和内容来确定。（1）输入层神经元数（节点数）的确定输入层神经元数的确定是根据线切割加工时输入的工件厚度、脉冲电流的脉宽、脉间、脉冲峰值

26、电流和平均加工电流等5项工艺参数来确定的，故输入层节点数为5。（2）隐含层神经元数及层数的确定隐含层神经元数的确定隐含层目前还没有一个很好的计算方法，而是要根据经验来定，数目太少，网络拟合误差曲线的能力差。如果数目太多，网络会出现过拟合现象，即拟合精度很高，但对样本的均方差(均方差的计算方法与表10.1误差的计算方法不同)此处并不反而增大。此例分别选定神经元数为13和18进行对比实验，最终选择较为合适的一种。第39页，共54页，编辑于2022年，星期一隐含层层数的确定隐含层层数的确定也没有一个很好的计算方法，和隐含层神经元数一样，可以利用经验或是试错法，先设置一层隐含层，计算其输出层均方差，逐

27、渐增加层数，如果出现变坏，则停止，选择出现均方差最小时的层数。此例选定一层和二层隐含层进行对比实验，最终选择较为合适的一种。（3）输出层神经元数的确定输出层神经元数的确定根据实际需要，在线切割机上主要是两项技术指标，一是加工零件的表面粗糙度，另一项就是表面切割速度。线切割加工质量及效率控制BP神经网络三层和四层拓扑结构分别如图13和图14所示。第40页，共54页，编辑于2022年，星期一6基于基于BP神经网络线切割加工质量及效率控制神经网络线切割加工质量及效率控制 工件厚度工件厚度脉冲电流脉宽脉冲电流脉宽 切割速度切割速度 脉冲电流脉间脉冲电流脉间 表面粗糙度表面粗糙度脉冲电流幅值脉冲电流幅值

28、平均电流平均电流 图图13 线切割加工质量及效率控制神经网络拓扑结构线切割加工质量及效率控制神经网络拓扑结构 第41页，共54页，编辑于2022年，星期一图图14 BP神经网络四层拓扑结构图神经网络四层拓扑结构图 第42页，共54页，编辑于2022年，星期一3.学习（训练）样本的确定及激励函数的选择学习（训练）样本的确定及激励函数的选择学习样本的个数为学习样本的个数为25个，样本各项输入数据（个，样本各项输入数据（）、输）、输出数据（出数据（c1,c2），和希望值），和希望值 以及最后达到的期望误差以及最后达到的期望误差 （反映网络收敛误差的大小，在此即为均方差）等的确定见表（反映网络收敛误差

29、的大小，在此即为均方差）等的确定见表14.2。2.网络的初始化网络的初始化 在在BP神神经经网网络络模模型型的的训训练练中中，所所有有神神经经元元之之间间的的连连接接初初始始权权值值 、和和 以以及及各各层层神神经经元元的的初初始始阈阈值值可可分分别别选选择择变变化化区区间间为为1,1 或或0,1的的随随机机值值。并并在在网网络络训训练练中中进进行行比比较较，观观察察其其不不同，最终选取较为合适的变化区间。同，最终选取较为合适的变化区间。在此选择S状函数，即Sigmoid函数作为激励函数。4.样本的正向输入及反向传播计算样本的正向输入及反向传播计算 样本输入之后，按所编制的计算机程序，进行前向

30、输入层、样本输入之后，按所编制的计算机程序，进行前向输入层、隐含层和输出层输出值的计算以及误差值和反向计算等。其最隐含层和输出层输出值的计算以及误差值和反向计算等。其最终的结果见表终的结果见表14.4。第43页，共54页，编辑于2022年，星期一线切割加工质量及效率控制线切割加工质量及效率控制BPBP神经网络的训练神经网络的训练1.神经网络预测程序的编写神经网络预测程序的编写用用MATLAB软件编写神经网络预测程序，预测程序包括：输入的归一化和输出的反归一化、函软件编写神经网络预测程序，预测程序包括：输入的归一化和输出的反归一化、函数的调用、网络初始化参数和网络结构参数的确定等。数的调用、网络

31、初始化参数和网络结构参数的确定等。2.采用不同网络训练方案采用不同网络训练方案BP神经网络采用不同训练方案其结果如表神经网络采用不同训练方案其结果如表14.2所示。所示。第44页，共54页，编辑于2022年，星期一 通过不同训练方案见表通过不同训练方案见表14.3：由方案：由方案1和方案和方案2可见，初始权值和阈值的取值范围为可见，初始权值和阈值的取值范围为11比取比取值范围为值范围为01时收敛次数少时收敛次数少(收敛次数定义为：当均方差小于给定的期望误差时，程序停止运行，此收敛次数定义为：当均方差小于给定的期望误差时，程序停止运行，此时的叠代次数为收敛次数时的叠代次数为收敛次数)，而收敛速度

32、快；由方案，而收敛速度快；由方案1和方案和方案3可见，隐含层神经元数为可见，隐含层神经元数为13时比神经元时比神经元数为数为18时的收敛次数少，收敛速度更快；由方案时的收敛次数少，收敛速度更快；由方案1和方案和方案4可见，神经元数相同，隐含层为二层的收可见，神经元数相同，隐含层为二层的收敛速度比隐含层为一层的收敛次数少，收敛速度快。敛速度比隐含层为一层的收敛次数少，收敛速度快。当采用不同网络训练方案时，其训练次数为当采用不同网络训练方案时，其训练次数为78次时，均方差与收敛后的均方差的对比见表次时，均方差与收敛后的均方差的对比见表14.3，这种比较只看出其不同，因数据太少不足以认定其规律。，这

33、种比较只看出其不同，因数据太少不足以认定其规律。第45页，共54页，编辑于2022年，星期一 从从表表14.2和和表表14.3可可见见，应应选选择择哪哪一一种种方方案案为为佳佳，从从收收敛敛速速度度来来看看应应选选择择方方案案4，如如若若从从收敛时的均方差更接近期望误差收敛时的均方差更接近期望误差(此时期望误差给定为此时期望误差给定为 )来看，应选择方案来看，应选择方案2。四种训练方案网络训练收敛后的权值和阈值矩阵四种训练方案网络训练收敛后的权值和阈值矩阵 下面均以三层下面均以三层BP神经网络来训练收敛后的权值和阈值。权值和阈值符号的右上角的数字为收神经网络来训练收敛后的权值和阈值。权值和阈值

34、符号的右上角的数字为收敛后的训练次数，如敛后的训练次数，如 右上角的右上角的115为训练次数。为训练次数。训练方案训练方案1：输入层输入层隐含层权值矩阵隐含层权值矩阵隐含层隐含层输出层权值矩阵输出层权值矩阵第46页，共54页，编辑于2022年，星期一隐含层阈值矩阵隐含层阈值矩阵输出层阈值矩阵输出层阈值矩阵训练方案训练方案2：输入层输入层隐含层权值矩阵隐含层权值矩阵隐含层隐含层输出层权值矩阵输出层权值矩阵第47页，共54页，编辑于2022年，星期一隐含层阈值矩阵隐含层阈值矩阵输出层阈值矩阵输出层阈值矩阵训练方案训练方案3：输入层输入层隐含层权值矩阵隐含层权值矩阵隐含层隐含层输出层权值矩阵输出层权

35、值矩阵第48页，共54页，编辑于2022年，星期一隐含层阈值矩阵隐含层阈值矩阵输出层阈值矩阵输出层阈值矩阵训练方案训练方案4：输入层输入层隐含隐含1层权值矩阵层权值矩阵 隐含隐含1层层隐含隐含2层权值矩阵层权值矩阵第49页，共54页，编辑于2022年，星期一隐含隐含2层层输出层权值矩阵输出层权值矩阵隐含隐含1层阈值矩阵层阈值矩阵隐含隐含2层阈值矩阵层阈值矩阵输出层阈值矩阵输出层阈值矩阵4.网络训练收敛后的学习样本和最终的训练结果网络训练收敛后的学习样本和最终的训练结果 四种训练方案网络训练收敛后的学习样本和最终的训练四种训练方案网络训练收敛后的学习样本和最终的训练结果如表结果如表14.4所示。

36、所示。第50页，共54页，编辑于2022年，星期一第51页，共54页，编辑于2022年，星期一第52页，共54页，编辑于2022年，星期一5.5.测试样本对测试样本对BPBP网络训练的测试网络训练的测试 最后随机选择两个测试样本，对上述训练好的最后随机选择两个测试样本，对上述训练好的BP神经网络进神经网络进行测试，其结果如表行测试，其结果如表14.5所示。所示。由表由表14.5和表和表14.4比对可知：根据表比对可知：根据表14.5序号序号1的测试输入值和表的测试输入值和表14.4样本输入值相对应，看其实际输出值应该和样本样本输入值相对应，看其实际输出值应该和样本8和和9相接近，实际相接近，实际情况也是如此。而序号情况也是如此。而序号2的实际输出值应该和样本的实际输出值应该和样本2022相接近，实际相接近，实际情况也是如此。情况也是如此。第53页，共54页，编辑于2022年，星期一 第14章 复习题1人工神经元的结构及工作原理如何？2神经网络模型的结构形式有哪几种？3BP神经网络属于哪一种结构形式？其输入量的误差值在网络中如何传播？4掌握BP神经网络学习训练算法程序和学习训练步骤。第54页，共54页，编辑于2022年，星期一