神经网络系统设计与软件实现幻灯片.ppt

《神经网络系统设计与软件实现幻灯片.ppt》由会员分享，可在线阅读，更多相关《神经网络系统设计与软件实现幻灯片.ppt（14页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、神经网络系统设计与软件实现第1页，共14页，编辑于2022年，星期一9.1 神经网络系统总体设计 设计中考虑的几个问题：设计中考虑的几个问题：1、分析哪类问题可以使用NN；2、NN的整体过程设计，即画出系统总图；3、系统需求分析；4、系统设计的各项性能指标；5、预处理问题。9.1.1 NN的适应范围的适应范围 NN并不是万能的！适合的情况：关于问题的知识模糊、不确定，缺少清晰的数学解析方法，具有足够的数据作为样本训练和测试。第2页，共14页，编辑于2022年，星期一 当确定使用NN后，需要确定使用哪种NN，若有部分答案则用BP合适，若无则用自组织竞争试试，当然也可以从网络结构方面试用。9.1.

2、2 NN设计过程与需求分析 1、需求分析 2、数据准备 3、数据预处理 4、软件实现与调试需求描述可执行代码选择训练测试数据抽取数据特征与预处理智能控制器并入系统训练与测试智能控制器控制方案描述第3页，共14页，编辑于2022年，星期一9.1.3 神经网络性能评价神经网络性能评价一、百分比准确率一、百分比准确率 指根据分类标准作出正确判断的百分比。指根据分类标准作出正确判断的百分比。有两个因素影响：有两个因素影响：1、分类标准本身的问题、分类标准本身的问题 2、样本集的代表性、样本集的代表性 因因此此需需要要用用户户的的积积极极参参与与，统统一一标标准准问问题题，样样本本具具有广泛的代表性。有

3、广泛的代表性。二、均方误差二、均方误差 即总误差除以样本数。即总误差除以样本数。第4页，共14页，编辑于2022年，星期一总误差：总误差：有时也采用平均均方差误差，它是均有时也采用平均均方差误差，它是均方误差除以节点数。方误差除以节点数。三、归一化误差三、归一化误差 Pinda提出一种与结构无关的评价标提出一种与结构无关的评价标准，误差取值在准，误差取值在01之间：之间：第5页，共14页，编辑于2022年，星期一其中，为所有样本在第j个输出节点期望输出的平均值，是第j个输出节点的期望输出。P为样本总数，m为输出节点数，则归一化误差为：归一化误差最坏是En=1，样本学习结束时应该En趋于0，收敛

4、速度取决于网络结构。四、接收操作特征曲线(ROC)用来反映某个输出节点在作出一个判断时的正确性。以判断的阳性和阴性表示归于某类的肯定与否定，一个给定输出神经元所表示的判断存在4种可能：第6页，共14页，编辑于2022年，星期一利用上述四种可能的两种比例可以画出利用上述四种可能的两种比例可以画出ROC曲线：曲线：第一种比例是第一种比例是TP/(TP+FN),TP/(TP+FN),称作真阳性率称作真阳性率；第二；第二种比例为种比例为FP/(FP+TN),称作假阳性率；ROC曲线由真阳性率轴和假阳性率轴上的点连接而成。如图所示。如图所示。系统判断系统判断标准判断标准判断阳性阳性阴性阴性阳性阳性TPF

5、P阴性阴性FNTN第7页，共14页，编辑于2022年，星期一五、灵敏度、精度和特异度五、灵敏度、精度和特异度 灵敏度；实际存在的事务能被检出的可能性；灵敏度；实际存在的事务能被检出的可能性；精精度度：系系统统作作出出正正确确阳阳性性判判断断的的数数目目除除以以所所有有阳阳性性判判读读的的总总数；数；特特异异度度：一一件件实实际际不不存存在在的的事事物物被被检检出出为为不不存存在在的的可可能能性性，定义为真阴性率：定义为真阴性率：TN/(FP+TN)假阳性率真阳性率0.5 10.51NNT2NNT1第8页，共14页，编辑于2022年，星期一9.1.4 输入数据的预处理输入数据的预处理 大多数神经

6、网络需要归一化输入，或者输入向量长度为一常数，前者用于反向传播网络，后者用于自组织网络。但要根据具体问题具体分析。第9页，共14页，编辑于2022年，星期一9.2 NN的软件实现的软件实现9.2.1 软件运行的若干问题 1、输入输出 2、数据归一化 3、连接权 4、特征参数 5、运行情况监控 9.2.2 软件实现的若干问题 1、解译与编译 2、代码优化 3、内存限制 4、浮点运算 5、网络调试第10页，共14页，编辑于2022年，星期一9.3 神经网络的高级开发环境 三种开发模式：1、人工编码 2、算法库 3、生成网络模型9.3.1 神经网络开发环境及其特征神经网络开发环境及其特征 理想的开发

7、环境应使用简单、功能强大、有效、理想的开发环境应使用简单、功能强大、有效、可扩展等。可扩展等。9.3.2 MATLAB神经网络工具箱神经网络工具箱 一、概述一、概述 Matrit Laboratory 矩阵实验室矩阵实验室第11页，共14页，编辑于2022年，星期一 有30多个工具箱，可分为2类：领域型和功能型。NN属于领域型。以Neural Network Toolbox 2.0为例，网络模型有：1、感知器 2、线性网络 3、BP 4、径向基 5、自组织 6、回归二、常用函数二、常用函数 分为10类：1、网络设计类 2、转移函数类3、学习规则类 4、初始化类 5、网络训练类 6、分析类 7、

8、邻域函数类 8、矩阵类9、绘图类 10、仿真类第12页，共14页，编辑于2022年，星期一9.3.3 其他其他NN开发环境简介开发环境简介 一、一、Plexi开发环境开发环境 内置内置Lisp机，功能强大。机，功能强大。二、二、Neuroshell开发环境开发环境 内置反向传播模型软件包。内置反向传播模型软件包。三、三、Neuralworks Professional 开发环境开发环境 比较昂贵。比较昂贵。四、四、NETSET II开发环境开发环境 可以从已封装的可以从已封装的19个网络中选择实现。个网络中选择实现。五、五、N-NET210开发环境开发环境 只有指导和无指导学习两种算法，不支持图形环境。只有指导和无指导学习两种算法，不支持图形环境。六、六、CaseNet开发环境开发环境 由网络定义器、分析器、编码生成器、编译器四个主要由网络定义器、分析器、编码生成器、编译器四个主要工具组成。工具组成。第13页，共14页，编辑于2022年，星期一-完完-第14页，共14页，编辑于2022年，星期一