(5.3)--实验5 分类器的训练和测试.pdf

实验5 分类器的训练和测试CONTENTS PAGE1.BP网络结构2.BP算法的实现步骤3.程序演示4.实验结果分析31.BP网络结构xi：来自第i个神经元的输入wi：对应第i个神经元的连接权重b：偏置量f：激活函数y：神经元输出1ni iiyfw xb=+4 BP算法：误差反向传播算法（Error Back Propagation Training），系统解决了多层神经网络隐含层神经元连接权值学习的问题。BP网络：基于BP算法进行误差校正的多层前馈网络。用Sigmoid激活函数替代了阶跃函数。信号前向传播误差反向传播1.BP网络结构5若采用批量样本更新算法对BP神经网络的权值和偏置进行更新，则BP算法步骤为：步骤2：初始化各连接权值w和偏置b，并且给定学习率。步骤1：输入m个样本12.,1,2,.imxxxxim=x12.,1,2,.knyyyykn=y2.BP算法的实现步骤62）对每一个样本，ix计算误差损失函数；()E i3）计算样本误差损失函数关于权值和偏置的偏导数()()ljiE iW()()ljE ib()()lWi()()lbi4）计算累加和()()()()lllWWWi=+()()()()lllbbbi=+步骤3：2.BP算法的实现步骤针对l层（），计算每一个样本的损失函数对各层权值的偏导数和对偏置的偏导数，并且对样本的偏导数进行求和。2lL()()00llWb=，=1）初始化5）直到所有样本的权值偏导和偏置偏导都参与了累加()()()()2112nkkkE idiyi=7步骤4：进行权值和偏置的更新()()()1lllWWWm=()()()1lllbbbm=步骤5：对所有的层按照步骤3和步骤4进行更新，利用更新后的权值和偏置，重新进行前向传输计算，计算网络输出。步骤6：重复步骤3、步骤4和步骤5，直至网络输出与期望输出损失函数小于某个设定的阈值或者迭代到某次数，则算法结束。2.BP算法的实现步骤2lL 83.程序演示94.实验结果分析1.采用随机初始化，连续调用三次BP网络，统计三次测试结果，能发现什么，怎么解释。2.对训练集样本进行识别准确率统计，与测试集样本上的识别准确率进行对比，分析二者的差异。（统计训练集识别率时要代码中训练过程屏蔽）3.对比Bayes分类器、SVM分类器、BP网络分类器的分类性能，对分类器性能进行分析。4.将原始特征计算、特征提取、分类器设计等环节进行系统优化，以获得最佳分类性能。