人工神经网络实用教程人工神经网络精.ppt

《人工神经网络实用教程人工神经网络精.ppt》由会员分享，可在线阅读，更多相关《人工神经网络实用教程人工神经网络精.ppt（36页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、人工神经网络实用教程人工神人工神经网络实用教程人工神经网络经网络第1页，本讲稿共36页2/10/20231 主讲：蒋世忠主讲：蒋世忠 信息工程图像处理教研室信息工程图像处理教研室Blog1: 曹晶 蒋世忠2/10/20233第3页，本讲稿共36页2/10/20234第4页，本讲稿共36页课件、实验及学习支持网站1、智能中国网：2、神经网络在线：http:/ 1.1.11.1.1生物神经元的结构与功能特点生物神经元的结构与功能特点 p生物神经元在结构上由四部分组成生物神经元在结构上由四部分组成:细胞体(Cell body)树突(Dendrite)轴突(Axon)突触(Synapse)用来完成神经

2、元间信息的接收、传递和处理。人用来完成神经元间信息的接收、传递和处理。人类大脑皮层约有类大脑皮层约有100100亿个神经元，亿个神经元，6060亿个神经突触以亿个神经突触以及它们的连接体及它们的连接体2/10/202310第10页，本讲稿共36页2/10/202311第11页，本讲稿共36页神经纤维传导演示神经纤维传导演示p神经纤维上的传导神经纤维上的传导p突触间的传导突触间的传导2/10/202312第12页，本讲稿共36页1.1.11.1.1生物神经元的结构与功能特点生物神经元的结构与功能特点p人脑与计算机信息人脑与计算机信息处理比较：处理比较：记忆与联想能力学习与认知能力信息加工能力信息

3、综合能力信息处理速度 2/10/202313第13页，本讲稿共36页1.1.21.1.2人工神经元模型人工神经元模型p人工神经元是人工神经网络操作的基本信息处理单位人工神经元是人工神经网络操作的基本信息处理单位,是神经网络设计的基础。是神经网络设计的基础。p人工神经元模型可以看成是由三种基本元素组成：人工神经元模型可以看成是由三种基本元素组成：(1)一组连接 连接强度由各连接上的权值表示，权值可以取正值也可以取负值，权值为正表示激活，权值为负表示抑制。(2)一个加法器 用于求输入信号对神经元的相应突触加权之和。(3)一个激活函数 用来限制神经元输出振幅。激活函数也称为压制函数，因为它将输入信号

4、压制(限制)到允许范围之内的一定值。另外，可以给一个神经元模型加一个外部偏置，其作用是增另外，可以给一个神经元模型加一个外部偏置，其作用是增加或降低激活函数的网络输入。加或降低激活函数的网络输入。2/10/202314第14页，本讲稿共36页1.1.21.1.2人工神经元模型人工神经元模型x1x2xmwi1wmkwi2.f()b bk输入信号输入信号连接权连接权求和求和uk输出输出激活函数激活函数阈值阈值k2/10/202315第15页，本讲稿共36页1.1.21.1.2人工神经元模型人工神经元模型p一个神经元可以用以下公式表示：一个神经元可以用以下公式表示：2/10/202316第16页，本

5、讲稿共36页1.1.21.1.2人工神经元模型人工神经元模型p激活函数主要的三种形式：激活函数主要的三种形式：阶梯函数f(u)u12/10/202317第17页，本讲稿共36页1.1.21.1.2人工神经元模型人工神经元模型p分段线性函数分段线性函数f(u)u1-12/10/202318第18页，本讲稿共36页1.1.21.1.2人工神经元模型人工神经元模型p非线性函数非线性函数单极S型函数双极S型函数2/10/202319第19页，本讲稿共36页1.1.31.1.3神经网络的结构及工作方式神经网络的结构及工作方式p人工神经网络是一个由许多简单的并行人工神经网络是一个由许多简单的并行工作的处理

6、单元组成的系统，其功能取决工作的处理单元组成的系统，其功能取决于网络的结构、连接强度以及各单元的处于网络的结构、连接强度以及各单元的处理方式理方式p根据神经元的不同连接方式，可将神经根据神经元的不同连接方式，可将神经网络分为两大类：网络分为两大类：分层网络相互连接型网络 2/10/202320第20页，本讲稿共36页1.1.31.1.3神经网络的结构及工作方式神经网络的结构及工作方式p分层网络分层网络单纯的前向网络2/10/202321第21页，本讲稿共36页1.1.31.1.3神经网络的结构及工作方式神经网络的结构及工作方式p分层网络分层网络具有反馈的前向网络 2/10/202322第22页

7、，本讲稿共36页1.1.31.1.3神经网络的结构及工作方式神经网络的结构及工作方式p分层网络分层网络层内互联的前向网络2/10/202323第23页，本讲稿共36页1.1.31.1.3神经网络的结构及工作方式神经网络的结构及工作方式p相互连接型网络相互连接型网络 2/10/202324第24页，本讲稿共36页1.1.4 神经网络的学习p学习方式学习方式有导师学习（有监督学习）无导师学习（无监督学习）再励学习2/10/202325第25页，本讲稿共36页1.1.4 神经网络的学习p学习算法：学习算法是指针对学习问题学习算法：学习算法是指针对学习问题的明确规则，不同的学习算法对神经元的的明确规则

8、，不同的学习算法对神经元的权值调整的表达式是不同的。权值调整的表达式是不同的。p算法分类算法分类Hebb学习算法 学习算法随机学习算法竞争学习算法2/10/202326第26页，本讲稿共36页1.1.4 神经网络的学习pHebbHebb学习算法学习算法由Donald O.Hebb提出。如果两个神经元同时兴奋，则它们之间的突触连接加强。如果神经元 是神经元 的上层结点，用 分别表示两神经元的激活值(输出)，表示两个神经元之间的连接权，则Hebb学习规则可以表示为:式中式中 表示学习速率表示学习速率Hebb学习规则是人工神经网络学习的基本规则，几乎所有神经网络的学习规则都可以看作Hebb学习规则的

9、变形2/10/202327第27页，本讲稿共36页1.1.4 神经网络的学习p 学习算法学习算法误差校正学习算法是根据神经网络的输出误差对神经元的连接强度进行修正，属于有导师学习 权值调整公式：调整目标是使下述公式所表达的误差为最小2/10/202328第28页，本讲稿共36页1.1.4 神经网络的学习p随机学习算法随机学习算法误差学习算法通常采用梯度下降法，因此存在局部最小问题，随机学习算法通过引入不稳定因子来处理这种情况。经典随机学习算法模拟退化算法模拟退化算法遗传算法。遗传算法。2/10/202329第29页，本讲稿共36页1.1.4 神经网络的学习p竞争学习算法竞争学习算法竞争学习属于

10、无导师算法 神经元通过互相竞争来做出不同的响应竞争获胜的神经元按规则修正权值经典竞争学习神经网络自组织特征映射网络自组织特征映射网络(Self-Organization Map(Self-Organization Map，SOM)SOM)自适应共振网络自适应共振网络(Adaptive Resonace Theory(Adaptive Resonace Theory，ART)ART)2/10/202330第30页，本讲稿共36页1.2 神经网络的特点及其应用p神经网络的特点神经网络的特点 不确定、模糊及数学建模困难并行分布式处理 非线性处理 具有自学习功能 神经网络可采用硬件实现 2/10/20

11、2331第31页，本讲稿共36页1.2 神经网络的特点及其应用p神经网络的应用领域神经网络的应用领域 语音识别语音识别娃娃语音识别娃娃图像识别与理解人脸检测人脸检测2/10/202332第32页，本讲稿共36页1.2 神经网络的特点及其应用p神经网络的应用领域神经网络的应用领域机器人智能故障检测智能故障检测医学应用医学图像处理医学图像处理2/10/202333第33页，本讲稿共36页p神经网络的应用领域神经网络的应用领域国防军事应用航天器姿态控制航天器姿态控制导弹的智能引导导弹的智能引导 2/10/202334第34页，本讲稿共36页小结小结p生物神经网络构成生物神经网络构成p人工神经网络模型人工神经网络模型p人工神经网络结构及工作方式人工神经网络结构及工作方式p人工神经网络学习方法人工神经网络学习方法p人工神经网络特点人工神经网络特点p人工神经网络应用人工神经网络应用2/10/202335第35页，本讲稿共36页 谢谢！谢谢！2/10/202336第36页，本讲稿共36页