人工神经网络概述优秀课件.ppt

《人工神经网络概述优秀课件.ppt》由会员分享，可在线阅读，更多相关《人工神经网络概述优秀课件.ppt（25页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、人工神经网络概述第1页，本讲稿共25页第8章 人工神经网络8.1人工神经网络概述8.2神经元模型8.3ANN的学习算法8.4应用举例第2页，本讲稿共25页一、人工神经网络的提出AI研究的两大学派：l符号主义用计算机从外特性上模仿人脑宏观的功能l连接主义在微观内部结构上模仿人脑的神经第3页，本讲稿共25页一、人工神经网络的提出符号主义认为：智能活动的基本元素是符号；智能活动的过程是符号处理的过程。连接主义认为：智能活动的基本元素是神经元；智能活动的过程是大量的相联结的神经元的并行作用的过程。第4页，本讲稿共25页二、人工神经网络的历史l早期阶段（1960s）1943 McCulloch和Pitt

2、s 提出神经元的数学模型（MP模型）1949 Hebb 提出权重加强的学习机理1957 Rosenblatt 感知机（perceptron）有认知学习功能1969 Mingsky 专著“perceptron”证明线性（单层）感知 机不能解决XOR问题，ANN进入低潮第5页，本讲稿共25页二、人工神经网络的历史l 过渡期（1970s）低潮中，许多学者深入研究ANN理论、模型。MIT的Marr提出视觉模型Boston Univ的Grossbery全面研究ANN理论，提出ART1，ART2，ART3自适应谐振理论模型。甘利俊一 ANN的数学理论Fuknshima 神经认知网络理论芬兰的Kohonen

3、 自组织联想记忆第6页，本讲稿共25页二、人工神经网络的历史l 高潮（1980）1982 加州理工 Hopfield提出结点全互联ANN模型（Hop模型），用单层ANN解决了TSP问题1987.6 ICNN（International Conference on NN）召开1987 加州理工 Abnmostafa，Psaitis 2D联想存储输入残缺图案也可识别http:/1988 AT&T Bell lab 120*120元件的ANN1989 三菱 光学ANN芯片，32个神经元识别26个字母1989 日立 5“硅片集成576个神经元1990 Bell Lab 黄庭钰 数字光学处理器1990

4、IBM AS400 提供ANN仿真开发环境1992 SGI 将ANN用于航天飞机控制臂ANN已在专家系统、智能控制等领域广泛应用第7页，本讲稿共25页第8章 人工神经网络8.1人工神经网络概述8.2神经元模型8.3ANN的学习算法8.4应用举例第8页，本讲稿共25页一、生物神经网的构成树突（Dendrite）胞体(Soma)轴突（Axon）突触（Synapse）第9页，本讲稿共25页二、MP 模型x2w2xnwnx1w1 F y第10页，本讲稿共25页二、MP 模型l线性函数 y=kx+cxyoc第11页，本讲稿共25页二、MP 模型l阈值函数 第12页，本讲稿共25页二、MP 模型l S形函

5、数（Sigmoid Function）yx0第13页，本讲稿共25页二、MP 模型考虑偏置与阈值，神经元模型 x2w2xnwnx1w1Fy s第14页，本讲稿共25页三、ANN 连接模型l前馈型网络 x1z1输出层 隐藏层 输入层x2z2zmxn Ww第15页，本讲稿共25页三、ANN 连接模型l 前馈型网络 输入/输出：二值（0,1）或连续值权值：可正可负权值矩阵：学习的过程不断修改权值的过程第16页，本讲稿共25页三、ANN 连接模型l反馈型网络 x1z1输出层 隐藏层 输入层x2z2zmxn Ww第17页，本讲稿共25页三、ANN 连接模型l反馈型网络层间反馈非线性动力系统层内反馈横向抑

6、制、竞争Hopfield网是单层节点全互连的反馈网 第18页，本讲稿共25页第8章 人工神经网络8.1人工神经网络概述8.2神经元模型8.3ANN的学习算法8.4应用举例第19页，本讲稿共25页8.3ANN 的学习算法ANN的学习算法可分为l有导师学习l无导师学习自学习、自组织第20页，本讲稿共25页一、Hebb 学习规则两个细胞同时兴奋，则它们之间连接（权）应加强。属于无导师学习第21页，本讲稿共25页二、反向传播算法二、反向传播算法(Back-Propagation,B-P 算法)（有导师学习）用于前馈网络l 从训练范例集中取一训练时，输入网络l 正向传播求输出l 计算输出与应有输出之误差http:/l 反向传播，逐层修正权值，使误差减小l 重复以上步骤，直至整个训练集误差最小。第22页，本讲稿共25页总结ANN 的学习算法第23页，本讲稿共25页第七章 人工神经网络8.1人工神经网络概述8.2神经元模型8.3ANN的学习算法8.4应用举例第24页，本讲稿共25页8.4应用举例XOR1=0.5-11-111x1=0，x2=0时，y10，y20，y0 x1=1，x2=0时，y11，y20，y1x1=0，x2=1时，y10，y21，y1x1=1，x2=1时，y10，y20，y0 x1x2y1y2y=XOR(x1,x2)第25页，本讲稿共25页