机器学习入门机器学习入门 (41).pdf

《机器学习入门机器学习入门 (41).pdf》由会员分享，可在线阅读，更多相关《机器学习入门机器学习入门 (41).pdf（17页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、目目 录录4总结总结目目 录录2卷积神经网络的网络层次卷积神经网络的网络层次3认识LeNet5的层次结构1卷积神经网络的概念卷积神经网络的概念卷积神经网络的概念卷积神经网络的概念01 卷积神经网络（Convolutional Neural Networks，简称CNN），是深度学习算法在图像处理领域的一个重要应用。卷积是一种重要的数学运算，在通信领域和深度学习中都有广泛的应用。卷积神经网络的网络基本层次卷积神经网络的网络基本层次 02图1：卷积神经网络的基本结构输入层input layer卷积层convolutionlayer池化层poolinglayer全连接层fully-connected

2、layer输出层outputlayer激励层activation layer卷积神经网络的基本层次有：输入层、卷积层、激励层、池化层、全连接层、输出层。其中：卷积层、激励层、池化层、全连接层也称为隐层（Hidden Layer）。隐层可以多次重复。在隐含层中本层的输入是上一层的输出。卷积层激励层池化层卷积层激励层池化层全连接输出层图2：卷积神经网络的一般结构灰度图彩色图图5：32 x 32，channel为3 的数组图4：32x32，channels为1的数组作用：将图像表示为数字矩阵。2.1 输入层图3：输入层R通道G通道 B通道原始图像卷积核（卷积核（Kernel），），即即滤波器（滤波器

3、（Filter），是一个，是一个矩阵矩阵，它和图像矩阵经过卷积它和图像矩阵经过卷积计算可以得到特征图计算可以得到特征图。作用：提取特征。2.2卷积层图6：不同卷积核提取不同的特征 卷积核里面的数就叫权重或权值（卷积核里面的数就叫权重或权值（weights），是上层神经元与下），是上层神经元与下层神经元连接上的值。层神经元连接上的值。卷积核的尺寸通常有卷积核的尺寸通常有3x3,5x5,也可以是也可以是1x1,7x7,11x11，卷积核的尺，卷积核的尺寸是人工指定。寸是人工指定。卷积核的初始值通常随机给定，在卷积神经网络的不断学习过程中卷积核的初始值通常随机给定，在卷积神经网络的不断学习过程中得到

4、不断调整，得到最终的参数。得到不断调整，得到最终的参数。特征图特征图（Feature Map），），是卷积核通过卷积计算后的输出，特征图的个是卷积核通过卷积计算后的输出，特征图的个数，即数，即特征图的特征图的深度或特征图的通道数。深度或特征图的通道数。图7：卷积核与特征图 卷积层是线性计算，其后通常会加入激励层以做非线性变换。这在后面会详细讲到。2.3 激励层作用：对图像进行下抽样（Subsampling），也称为子采样，能在保留有用信息的同时减少数据处理量，且保持了图像的平移不变性。下采样2.4 池化层池化层图8：下采样作用：将有深度（厚度）的特征图，展平（flatten）成一维向量（长度），并将当前层的每个节点与下一层的另一个节点连接起来。2.5 全连接层图9：全连接全连接层通常是特征已经提取完毕后的操作，一般位于最后一个输出层或者其前面一或几层。认识LeNet5的层次结构 03LeNet-5模型是1998年Yann LeCun教授提出的，它是第一个成功大规模应用在手写数字识别问题的卷积神经网络，在MNIST数据集中的正确率可以高达99.2%。LeNet-5模型是1998年Yann LeCun教授提出的，它是第一个成功大规模应用在手写数字识别问题的卷积神经网络，在MNIST数据集中的正确率可以高达99.2%。图10：是LeNet-5识别数字3的过程