2022年神经网络课件 .pdf

《2022年神经网络课件 .pdf》由会员分享，可在线阅读，更多相关《2022年神经网络课件 .pdf（7页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、二神经网络控制2.1 神经网络基本概念一. 生物神经元模型：生物神经元 , 也称作神经细胞, 是构成神经系统的基本功能单元。虽然神经元的形态有极大差异 , 但基本结构相似。本目从信息处理和生物控制的角度, 简述其结构和功能。1.神经元结构神经元结构如图所示1)细胞体：由细胞核、细胞质和细胞膜等组成。2)树突：相当于神经元的输入端，接收传入的神经冲动。3)轴突：也称神经纤维。端部有很多神经末梢，传出神经冲动。4)突触： 是神经元之间的连接接口。一个神经元通过其轴突的神经末梢经突触，与另一个神经元的树突连接，以实现信息传递。突触的信息传递是特性可变的, 传递作用强弱不同，形成了神经元之间连接的柔性

2、。5） 细胞膜电位：神经细胞在受到电的、化学的、机械的刺激后能产生兴奋，此时细胞膜内外由电位差，称为膜电位。2.神经元功能1） 兴奋与抑制：传入神经元的冲动经整和后使细胞膜电位提高，超过动作电位的阈值时即为兴奋状态，产生神经冲动，由轴突经神经末梢传出。传入神经元的冲动经整和后使细胞膜电位降低，低于阈值时即为抑制状态，不产生神经冲动。2） 学习与遗忘：由于神经元结构的可塑性，突触的传递作用可增强与减弱，因此神经元具有学习与遗忘的功能。二人工神经元模型名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - -

3、- - 第 1 页，共 7 页 - - - - - - - - - 人工神经元是对生物神经元的一种模拟与简化。它是一个多输入单输出的非线形元件。其输入、输出的关系可描述为 21 其中iX(j=1 、2、 n) 是从其他神经元传来的输入信号；ijW表示从神经元j 到神经元i 的连接权值；i为阈值；f （. ）称为激发函数或作用函数。把i也看成是恒等于1 的输入0X的权值，这时 22 其中,0iiW10X输出激发函数f （. ）又称为变换函数，它决定神经元（节点）的输出。f （. ）函数一般具有线性特性。图23 表示了几种常见的激发函数，分述如下。（1）阈值型函数当iy取 0 或 1 时，)(If

4、为图 2 3（a）所示的阶跃函数： 2-3 当iy取 1 或 1 时，)(If为图 23（b）所示的sign函数（符号函数）0, 10, 1)()(IIIfIsign 2-4 （2）饱和型函数：图23（c）njijjiiXWI1)I (fyiin0jjjiiXWI抑制状态兴奋状态0I, 00I, 1) I (fk1I, 1k1Ik1,kIk1I, 1) I (f名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 2 页，共 7 页 - - - - - - - - - 2-5 （3）双曲函

5、数：图2-3(d) )tanh()(IIf2-6 （4）S型函数：图2-3(e) 神经元的状态与输入作用之间的关系是在（0，1）内连续取值的单调可微函数，称为sigmord函数，简称为S型函数：图 23（e）Ie11) I (f0 当趋于无穷时， S 型曲线趋于阶跃函数，通常情况下，取值为 1。IeIf1/1)(0 2-7 对称型 S函数：可微，可表示为图 2-3(f) 图 23（f）IIeeIf11)(0 2-8 (5)高斯函数图 2-3(g) （c=0 时）在径向基函数（Radial Basis Fnnetion, RBF ）构成的神经元网络中，神经元的结构可用高斯函数描述：22/)()(

6、exeIf2-9 名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 3 页，共 7 页 - - - - - - - - - 图 23（g）三人工神经网络模型 98 页以工程技术手段来模拟人脑神经网络的结构与特征的系统。是生物神经网络的一种模拟和近似。各种不同拓扑结构的神经网络中前馈型网络和反馈型网络是两种典型的结构模型。（1）前馈型神经网络又称前向网络（Feedforward NN ） 。如图可示，神经元分层排列，有输入层，隐层（亦称中间层，可有若干层）和输出层，每一层的神经元只接受前

7、一层神经元的输入。从学习的观点来看，前馈网络是一种强有力的学习系统，其结构简单而易于编程；从系统的观点来看，前馈网络是静态非线性映射，通过简单非线性处理单元的复合映射，可获得复杂的非线性处理能力。从计算的观点看，缺乏丰富的动力学行为。大部分前馈网络都是学习网络，它们的分类能力和模式识别能力一般都强于反馈网络。典型的前馈网络有感知器网络，BP 网络等。（2）反馈型神经网络（Feedback NN ）结构如图所示。若总节点（神经元）数为N。则每个节点有N 个输入和一个输出，也就是说，所有的节点都是一样的，它们之间都可相互连接。反馈神经网络是一种反馈动力学系统，它需要工作一段时间才能达到稳定。Hop

8、field 神经网络是反馈网络中最简单且广泛的模型，它具有联想记忆的功能，如果将Lyapunov 函数定义为寻优函数，Hopfield 神经网络还可以用来解决快速寻优问题。图 25 uy名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 4 页，共 7 页 - - - - - - - - - 2、局部递归（反馈）型) 1(ty)(tu)(tcy) 1(to)(ty)()(ntymtu多层前馈网络)(tu1z1z1z1z基本 Elman网络局部递归网络 外时延反馈型名师资料总结 - - -

9、精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 5 页，共 7 页 - - - - - - - - - 四、人工神经网络学习方法学习方法是体现人工神经网络智能特征的主要标志。目前，神经网络的学习方法有多种， 可分为有教师学习 （Sperrised Learning ）和无教师学习 （Unsperrised Learning）等几大类。在有教师的学习的学习方式中，网络的输出和期望的输出 （即教师信号） 进行比较，然后根据两者之间的差异调整网络的权值，最终使差异变小。 在无教师的学习方式中，输入模式进入网络后，

10、 网络按照一预先设定的规则 （如竞争规则）自动调整权值，使网络最终具有模式分类等功能。下面介绍神经网络中常用的两种最基本的学习方法。无导师的学习（无监督、或称自组织) 无导师信号 提供给网络，网络能根据其特有的结构和学习规则，进行联接权系的调整，此时，网络的学习评价标准隐含于其内部（见图） 。实际输出学习机NN自我比 较有导师的学习（监督学习）在学习过程中，网络根据实际输出与期望输出的比较，进行联接权系的调整，将期望输出称导师信号是评价学习的标准（见图）。期望输出实际输出学习机NN比较名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - -

11、- 名师精心整理 - - - - - - - 第 6 页，共 7 页 - - - - - - - - - 所谓神经网络的学习， 目前主要是指通过一定的学习算法实现对突触结合强度（权值）的调整，使其达到具有记忆、识别、分类、信息处理和问题优化求解算法功能。泛化能力泛化能力（ Generalization Ability ）也称综合能力或概括能力，是指用较少的样本进行训练， 使网络能在指定的区域内达到要求的精度，或者说用较少的样本进行训练，使网络对未经训练的输入也能给出合适的输出。因此没有泛化能力的神经网络无任何实用价值。样本：有训练样本集之外，还需要测试集。可取测试集J1 的极小点对应的训练权系，以使网络具有较好的泛化能力。见图结构：泛化能力还与网络结构，即网络的隐层数与隐层的极点有关。)()(1tJtJ训练样本t 测试数据图 2-4-2 泛化能力示意图名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 7 页，共 7 页 - - - - - - - - -