第9章--神经网络系统设计与软件实现ppt课件.ppt

《第9章--神经网络系统设计与软件实现ppt课件.ppt》由会员分享，可在线阅读，更多相关《第9章--神经网络系统设计与软件实现ppt课件.ppt（14页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第九章第九章 神经网络系统设计与软件实现神经网络系统设计与软件实现 9. 1 神经 网络系统总体设计 9. 2 神经网络软件实现 9. 3 神经网络高级开发环境9. 1 神经网络系统总体设计 设计中考虑的几个问题：设计中考虑的几个问题： 1、分析哪类问题可以使用NN； 2、NN的整体过程设计，即画出系统总图； 3、系统需求分析； 4、系统设计的各项性能指标； 5、预处理问题。9.1.1 NN的适应范围的适应范围 NN并不是万能的！ 适合的情况：关于问题的知识模糊、不确定，缺少清晰的数学解析方法，具有足够的数据作为样本训练和测试。 当确定使用NN后，需要确定使用哪种NN，若有部分答案则用BP合适

2、，若无则用自组织竞争试试，当然也可以从网络结构方面试用。 9.1.2 NN设计过程与需求分析 1、需求分析 2、数据准备 3、数据预处理 4、软件实现与调试需求描述可执行代码选择训练测试数据抽取数据特征与预处理智能控制器并入系统训练与测试智能控制器控制方案描述9.1.3 神经网络性能评价神经网络性能评价一、百分比准确率一、百分比准确率 指根据分类标准作出正确判断的百分比。指根据分类标准作出正确判断的百分比。 有两个因素影响：有两个因素影响：1、分类标准本身的问题、分类标准本身的问题 2、样本集的代表性、样本集的代表性 因此需要用户的积极参与，统一标准问题，样因此需要用户的积极参与，统一标准问题

3、，样本具有广泛的代表性。本具有广泛的代表性。 二、均方误差二、均方误差 即总误差除以样本数。即总误差除以样本数。总误差：总误差：2111()2mPppjjjpEdo222 有时也采用平均均方差误差，它有时也采用平均均方差误差，它是均方误差除以节点数。是均方误差除以节点数。三、归一化误差三、归一化误差 Pinda提出一种与结构无关的评价提出一种与结构无关的评价标准，误差取值在标准，误差取值在01之间：之间：2111()2mPpjmeanjjpEdd其中， 为所有样本在第j个输出节点期望输出的平均值， 是第j个输出节点的期望输出。P为样本总数，m为输出节点数，则归一化误差为： jdpjd/nmea

4、nEE E 归一化误差最坏是En=1，样本学习结束时应该En趋于0，收敛速度取决于网络结构。四、接收操作特征曲线(ROC) 用来反映某个输出节点在作出一个判断时的正确性。以判断的阳性和阴性表示归于某类的肯定与否定，一个给定输出神经元所表示的判断存在4种可能：第一种比例是第一种比例是TP/(TP+FN),TP/(TP+FN),称作真阳性率称作真阳性率；第；第二种比例为二种比例为FP/(FP+TN),称作假阳性率；ROC曲线由真阳性率轴和假阳性率轴上的点连接而成。如图所示。如图所示。 系统判断系统判断标准判断标准判断阳性阳性阴性阴性阳性阳性TPFP阴性阴性FNTN五、灵敏度、精度和特异度五、灵敏度

5、、精度和特异度 灵敏度；实际存在的事务能被检出的可能性；灵敏度；实际存在的事务能被检出的可能性； 精度：系统作出正确阳性判断的数目除以所有阳性判精度：系统作出正确阳性判断的数目除以所有阳性判读的总数；读的总数； 特异度：一件实际不存在的事物被检出为不存在的可特异度：一件实际不存在的事物被检出为不存在的可能性，定义为真阴性率：能性，定义为真阴性率：TN/(FP+TN)假阳性率真阳性率0.5 10.51NNT2NNT19.1.4 输入数据的预处理输入数据的预处理 大多数神经网络需要归一化输入，或者输入向量长度为一常数，前者用于反向传播网络，后者用于自组织网络。 但要根据具体问题具体分析。9.2 N

6、N的软件实现的软件实现9.2.1 软件运行的若干问题 1、输入输出 2、数据归一化 3、连接权 4、特征参数 5、运行情况监控 9.2.2 软件实现的若干问题 1、解译与编译 2、代码优化 3、内存限制 4、浮点运算 5、网络调试9.3 神经网络的高级开发环境 三种开发模式： 1、人工编码 2、算法库 3、生成网络模型9.3.1 神经网络开发环境及其特征神经网络开发环境及其特征 理想的开发环境应使用简单、功能强大、理想的开发环境应使用简单、功能强大、有效、可扩展等。有效、可扩展等。9.3.2 MATLAB神经网络工具箱神经网络工具箱 一、概述一、概述 Matrit Laboratory 矩阵实

7、验室矩阵实验室 有30多个工具箱，可分为2类：领域型和功能型。NN属于领域型。 以Neural Network Toolbox 2.0为例，网络模型有： 1、感知器 2、线性网络 3、BP 4、径向基 5、自组织 6、回归二、常用函数二、常用函数 分为10类： 1、网络设计类 2、转移函数类3、学习规则类 4、初始化类 5、网络训练类 6、分析类 7、邻域函数类 8、矩阵类9、绘图类 10、仿真类9.3.3 其他其他NN开发环境简介开发环境简介 一、一、Plexi开发环境开发环境 内置内置Lisp机，功能强大。机，功能强大。 二、二、Neuroshell开发环境开发环境 内置反向传播模型软件包。内置反向传播模型软件包。 三、三、Neuralworks Professional 开发环境开发环境 比较昂贵。比较昂贵。 四、四、NETSET II开发环境开发环境 可以从已封装的可以从已封装的19个网络中选择实现。个网络中选择实现。 五、五、N-NET210开发环境开发环境 只有指导和无指导学习两种算法，不支持图形环境。只有指导和无指导学习两种算法，不支持图形环境。 六、六、CaseNet开发环境开发环境 由网络定义器、分析器、编码生成器、编译器四个主由网络定义器、分析器、编码生成器、编译器四个主要工具组成。要工具组成。-完完-