现代管理分析技术第五章 人工神经网络幻灯片.ppt
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_05.gif)
《现代管理分析技术第五章 人工神经网络幻灯片.ppt》由会员分享,可在线阅读,更多相关《现代管理分析技术第五章 人工神经网络幻灯片.ppt(63页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、现代管理分析技术第五章 人工神经网络第1页,共63页,编辑于2022年,星期日22课程基本内容课程基本内容 介绍人工神经网络基本原理及介绍人工神经网络基本原理及BPBP网络模型网络模型 介绍人工神经网络在经济管理中典型案例介绍人工神经网络在经济管理中典型案例 介绍介绍MATLABMATLAB人工神经网络工具箱基本应用人工神经网络工具箱基本应用第五章第五章 BP人工神经网络导论人工神经网络导论第2页,共63页,编辑于2022年,星期日3第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型 什么是人工神经网络什么是人工神经网络 所谓人工神经网络就是基于模仿生物大脑的结构和功能而构
2、成的一种信息处理系统。粗略地讲,大脑是由大量神经细胞(或神经元)组成的。每个神经元可看作是一个小的处理单元,这些神经元按某种方式连接起来,形成大脑内部的生理神经元网络。第3页,共63页,编辑于2022年,星期日4第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第4页,共63页,编辑于2022年,星期日5 这种神经元网络中各神经元之间联结的强弱,按外部的激励信号做自适应变化,而每个神经元又随着所接收到的多个接收信号的综合大小而呈现兴奋或抑制状态。现已明确大脑的学习过程就是神经元之间连接强度随外部激励信息做自适应变化的过程,而大脑处理信息的结果则由神经元的状态表现出来。第一节
3、第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第5页,共63页,编辑于2022年,星期日6 美国神经网络学者Nielsen的定义 人工神经网络是一个并行、分布处理结构,它由处理单元 及其称为联接的无向讯号通道互连而成。这些处理单元具有局部内存,可以完成局部操作,即它必须仅仅依赖于经过输入联接到达处理单元所有输入信号的当前值和存储在处理单元局部内存中的值。每个处理单元有一个单一的输出联接,输出信号可以是任何需要的数学模型。第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第6页,共63页,编辑于2022年,星期日7 人工神经网络的两种操作过程 训练学习训练时
4、,外部输入作为网络的输入和要求的输出,使网络按某种规则(称为训练算法)调节各处理单元间的连接权值,直至加上给定输入,网络就能产生给定输出为止。回忆操作对训练好的网络输入一个信息,网络可以正确回忆出相应输出,得到结果。第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第7页,共63页,编辑于2022年,星期日8 8 人工神经网的基本概念人工神经网的基本概念 人工神经元人工神经元 人工神经网络的拓扑特性人工神经网络的拓扑特性 存储与回忆存储与回忆 人工神经网络的训练人工神经网络的训练第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第8页,共63页,编辑于2
5、022年,星期日99 人工神经元人工神经元 神神经经元元是是构构成成神神经经网网络络的的最最基基本本单单元元(构构件件),具具有有生生物神经元的六个基本特性:物神经元的六个基本特性:1)神经元神经元及其及其联接联接;2)神经元之间的联接强度决定神经元之间的联接强度决定信号传递信号传递的强弱;的强弱;3)神经元之间的联接强度可以随神经元之间的联接强度可以随训练训练改变的;改变的;4)信号可以起信号可以起刺激刺激作用的,也可以起作用的,也可以起抑制抑制作用的;作用的;5)神经元接受信号神经元接受信号累积效果累积效果决定神经元的状态;决定神经元的状态;6)每个神经元可以有一个每个神经元可以有一个“阈
6、值阈值”。第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第9页,共63页,编辑于2022年,星期日1010p 人工神经元的基本构成人工神经元的基本构成 输入:输入:X=X=(x x1 1,x x2 2,x xn n)联接权:联接权:W=W=(w w1 1,w w2 2,w wn n)T T网络输入:网络输入:net=xnet=xi iw wi i向量形式:向量形式:net=XWnet=XWxn wnx1 w1x2 w2net=XW第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第10页,共63页,编辑于2022年,星期日1111p 激活函数激活函数
7、(Activation Function)(Activation Function)执执行行对对该该神神经经元元所所获获得得的的网网络络输输入入的的变变换换,也也可可称称为为激激励励函数:函数:o=fo=f(netnet)1 1、线性函数(、线性函数(Liner FunctionLiner Function)f(net)=k*net+c netooc第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第11页,共63页,编辑于2022年,星期日12122、S形函数形函数 f(net)=a+b/(1+exp(-d*net)a,b,d为常数。它的饱和值为为常数。它的饱和值为a和和
8、a+b。最简单形式为:最简单形式为:f(net)=1/(1+exp(-d*net)函数的饱和值为函数的饱和值为0和和1。S形函数有较好的增益控制形函数有较好的增益控制 第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第12页,共63页,编辑于2022年,星期日1313a+bo(0,c)netac=a+b/2第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第13页,共63页,编辑于2022年,星期日14143、双曲正切函数第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第14页,共63页,编辑于2022年,星期日1515 S型函数
9、的特点:可以把该型函数看作为处理单元定义了一 个非线性增益,增益的大小决定于曲线在给定 s点的斜率。当s由负无穷增到0时,增益由0增至最大;当s由0增到正无穷时,增益又由最大返回到0。第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第15页,共63页,编辑于2022年,星期日1616 Grossberg在1973年发现,用该函数可使同一网络既能处理小信号,也能处理大信号。该函数的中间高增益区解决了处理小信号的问题;伸向两边的低增益区正好适合于处理大的激励信号;这种现象正像生物神经元在输入电平范围很大的情况下能正常工作一样。第一节第一节 人工神经网络基本原理及人工神经网络基
10、本原理及BP模型模型第16页,共63页,编辑于2022年,星期日1717p M-P M-P模型模型 x2 w2fo=f(net)xn wnnet=XWx1 w1McCullochPitts(MP)模型,也称为处)模型,也称为处理单元(理单元(PE)第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第17页,共63页,编辑于2022年,星期日18 人工神经网络的拓扑特性人工神经网络的拓扑特性 单个处理单元可以处理简单的图形检测功能,但更强的识别处理能力是来自多个结点“连成”的网络,即人工神经网络。这里的“连成”,是靠输入至结点或者结点至结点间的信号传输通路实现的,这一通路相当
11、于生物神经系统中的轴突和突触,它们影响着输入信号。把这种传输通路称为“连接”,每一连接都具有一个加权值,称为“连接权”,反映连接的强度。第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第18页,共63页,编辑于2022年,星期日1919 连接的拓扑表示:连接的拓扑表示:ANiwijANj 用用正正号号(“+”,可可省省略略)表表示示传传送送来来的的信信号号起起刺刺激激作作用,它用于增加神经元的活跃度;用,它用于增加神经元的活跃度;用用负负号号(“-”)表表示示传传送送来来的的信信号号起起抑抑制制作作用用,它它用用于于降降低神经元的活跃度。低神经元的活跃度。层层次次(又又称
12、称为为“级级”)的的划划分分,导导致致了了神神经经元元之之间间的的三三种不同的种不同的互连模式互连模式:第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第19页,共63页,编辑于2022年,星期日20201、层(级)内联接层(级)内联接层层内内联联接接又又叫叫做做区区域域内内(Intra-field)联联接接或或侧侧联联接接(Lateral)。)。用来加强和完成层内神经元之间的竞争用来加强和完成层内神经元之间的竞争2 2、循环联接循环联接反馈信号。反馈信号。3、层(级)间联接、层(级)间联接 层层间间(Inter-field)联联接接指指不不同同层层中中的的神神经经元元之
13、之间间的的联接。这种联接用来实现层间的信号传递联接。这种联接用来实现层间的信号传递前馈信号前馈信号反馈信号反馈信号 第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第20页,共63页,编辑于2022年,星期日2121单层网络单层网络最简单的网络是把一组结点形成一层。左边的黑色圆点只起着分配输入信号的作用,没有计算作用,不看作是网络的一层。右边用圆圈表示的一组结点被看作一层。第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第21页,共63页,编辑于2022年,星期日2222输入信号表示为行向量:x x=(x1,x2,xN),其中每一分量通过加权连接到各
14、结点。每一个结点均可产生一个加权和。输入和结点间采用全连接,并且都是前馈连接。(实际的人工神经网络和生物神经网络中有些连接可能不存在)第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第22页,共63页,编辑于2022年,星期日2323在这种单层网络中,可把各加权表示为加权矩阵WW。矩阵的维数是N x n,N是输入信号向量(也称输入图形)的分量数,n是该层内的结点数。由第三个输入连接到第二个结点的连接权表示为W32。第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第23页,共63页,编辑于2022年,星期日2424输入信号的加权和表示为:s是各结点加权
15、和的行向量,s=(s1,s2,sn)。输出向量 y=(y1,y2,yn),其中yj=F(sj)。第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第24页,共63页,编辑于2022年,星期日2525W=(wij)输出层的第输出层的第j个神经元的网络输入记为个神经元的网络输入记为netj:netj=x1w1j+x2w2j+xnwnj 其中其中,1 j m。取。取NET=(net1,net2,netm)NET=XWO=F(NET)第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第25页,共63页,编辑于2022年,星期日2626p 多级网多级网输出层输出层
16、隐藏层隐藏层输入层输入层第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第26页,共63页,编辑于2022年,星期日2727 层次划分层次划分 信号只被允许从较低层流向较高层。信号只被允许从较低层流向较高层。层层号号确确定定层层的的高高低低:层层号号较较小小者者,层层次次较较低低,层层号号较较大者,层次较高。大者,层次较高。输输入入层层:被被记记作作第第0层层。该该层层负负责责接接收收来来自自网网络络外外部部的的信息信息输出层输出层隐藏层隐藏层输入层输入层o1o2omx1x2xn第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第27页,共63页,编辑
17、于2022年,星期日2828第第j层层:第第j-1层层的的直直接接后后继继层层(j0),它它直直接接接接受受第第j-1层层的输出。的输出。输输出出层层:它它是是网网络络的的最最后后一一层层,具具有有该该网网络络的的最最大大层层号号,负责输出网络的计算结果。负责输出网络的计算结果。隐藏层隐藏层:除输入层和输出层以外的其它各层叫隐藏层。隐:除输入层和输出层以外的其它各层叫隐藏层。隐藏层不直接接受外界的信号,也不直接向外界发送信号藏层不直接接受外界的信号,也不直接向外界发送信号第一节第一节 人工神经网络基本原理及人工神经网络基本原理及BP模型模型第28页,共63页,编辑于2022年,星期日29292
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 现代管理分析技术第五章 人工神经网络幻灯片 现代 管理 分析 技术 第五 人工 神经网络 幻灯片
![提示](https://www.taowenge.com/images/bang_tan.gif)
限制150内