卷积神经网络及应用教学内容.ppt

卷积神经网络及应用目录一、研究现状二、神经网络与卷积神经网络三、卷积神经网络应用四、总结与展望2神经网络-训练过程二、神经网络与卷积神经网络6神经网络-训练理念（梯度下降）各变量满足如下公式：求vjk的梯度：求wij的梯度：二、神经网络与卷积神经网络7BP算法的规律二、神经网络与卷积神经网络8卷积神经网络卷积神经网络是神经网络的一种变形卷积神经网络与神经网络的主要区别就是CNN采用了卷积和子采样过程。神经生物学中局部感受野的提出（1962）催生了卷积的思想。卷积减少了CNN网络参数，子采样减少了网络参数，权值共享大大减少的CNN网络参数。但是CNN具备深层结构。二、神经网络与卷积神经网络9局部感受野二、神经网络与卷积神经网络10卷积神经网络的一般结构二、神经网络与卷积神经网络11卷积 卷积核kernal在inputX图中从左向右，从上至下每次移动一个位置,对应位置相乘求和并赋值到OutputY中的一个位置。二、神经网络与卷积神经网络12子采样（pooling）子采样通常有两种形式。均值子采样和最大值子采样，子采样可以看做一种特殊的卷积过程。二、神经网络与卷积神经网络13前向卷积过程二、神经网络与卷积神经网络14二、神经网络与卷积神经网络15编码实现CNN我们采用了6w张手写数字图片作为训练集，用1w手写数字图片作为测试集。经过100次迭代，在训练集上得到99.51%的准确率，在测试集上得到98.8%的准确率。三、卷积神经网络应用16CNN特征选取本文的CNN模型的输入是语音的频谱特征17本文CNN网络结构描述1819202122展望 由于采用使用的训练数据较少，CNN尝试的网络结构及参数也少，我们还有很大的模型的调优空间。未来CNN还可以尝试使用更深层的网络结构，使用更好的语音特征。由于深度网络对数据描述的能力更强,我们预测增加训练数据并经合理的训练可以达到更好的结果。四、总结与展望23 Thank You!24结束语结束语谢谢大家聆听！谢谢大家聆听！25