第9章 深度学习ppt课件.pptx

《第9章 深度学习ppt课件.pptx》由会员分享，可在线阅读，更多相关《第9章 深度学习ppt课件.pptx（43页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、章 节 目 录9.1 9.1 深度学习概述深度学习概述9.2 9.2 卷积神经网络卷积神经网络9.3 9.3 循环神经网络循环神经网络9.4 9.4 深度信念网络深度信念网络9.5 9.5 深度生成模型深度生成模型9.6 9.6 深度学习应用概述深度学习应用概述9.7 9.7 机器学习系统机器学习系统9.8 9.8 案例：深度学习在计算机视觉中的应用案例：深度学习在计算机视觉中的应用 李飞飞在斯坦福做的自然图像分类项目。李飞飞在斯坦福做的自然图像分类项目。20112011年，计算机对于图年，计算机对于图像的分类准确度只能达到像的分类准确度只能达到75%75%左右左右。 之后，之后，谷歌谷歌、微

2、软微软、百度百度均在进步均在进步什么是深度学习？什么是深度学习？ 深度学习是一类基于神经网络的机器学习算法，网络结构包含两个以上非线性隐含层。与传统的机器学习方法不同，其丰富的层级结构为模型提供了更高的抽象层次，能够为复杂非线性系统提供建模。 典型地，一个DNN模型包括一个输入层、一个输出层及多个隐含层。多个非线性隐含层的叠加可以有效组合出高度非线性的学习模型。因而，可以从大量数据中学习高阶语义概念表示，使得深度学习可以高性能得处理复杂问题。发展历史发展历史 1943年，McCulloch和Pitts首次提出M-P神经元模型。 1958年，Roseblatt提出感知器感知器，通过计算机确定连接

3、权重。 1980年，福岛邦彦等提出神经认知机神经认知机，模拟生物视觉传导。 1986年，Rumelhart提出误差反向传播算法误差反向传播算法、多层感知器。 1989年，LeCun等提出卷积神经网络卷积神经网络，并用于手写字识别。 2006年，Hinton，Bengio等提出预训练预训练、自编码器，将逐层贪婪训练方法用于深度神经网络。 2012年，Krizhevsky等将ReLU作为激活函数作为激活函数，在图像识别基准测试中获得压倒性优势深度学习特点深度学习特点1. 使用多重非线性变换对数据进行多层抽象。2. 以寻求更适合的概念表示方法为目标。3. 形成一类具有代表性的特征表示学习方法。 神经

4、认知机(1980)结构：对比度提取G层 特征提取S层及抗变形C层卷积神经网络的内部过程卷积神经网络的内部过程Deep LearningYann LeCun, Yoshua Bengio & Geoffrey Hinton. Nature, 2015卷积层卷积层( (Convolutional Layer) ) 卷积核(convolution kernel) 在通道方向全连接，空间方向仅局部连接 共享权值参数，一个卷积核提取所有输入区域得同一特征 卷积是局部连接、共享参数版的全连接层。这两个特性使参数量大大降低。 卷积计算卷积计算 将各个位置上滤波器的元素和输入的对应元素相乘，然后再求和池化层池

5、化层( (pooling) ) 池化根据特征图上的局部统计信息进行下采样，在保留有用信息的同时减少特征图的大小。卷积网络演化脉络卷积网络演化脉络 2012年提出的AlexNet引入Dropout方法及ReLU激活函数 2015年He Kaiming等提出具有残差单元的ResNet将网络深度推向极致代表性网络结构代表性网络结构给网络增加记忆能力给网络增加记忆能力 很多现实任务中，网络的输入不仅和当前时刻的输入相关，也和其过去一段时间的输出相关。 延时神经网络延时神经网络(TDNN)是位非输出层建立额外延时单元的神经网络模型 自回归模型自回归模型（AR）是用一个变量的历史来预测自身的统计模型。 循

6、环神经网络循环神经网络(RNN)是一类具有短期记忆能力的神经网络，神经元可以接受自身的信息，形成具有环路的网络结构典型的循环神经网络典型的循环神经网络 典型的RNN有三种设计模式三种训练损失的计算图。其中，x值为输入序列，o为映射的输出值序列，损失L衡量每个o与相应的训练目标y的距离。循环神经网络的运作过程循环神经网络的运作过程循环神经网络的训练方法循环神经网络的训练方法 RNN的训练方法是基于时间的反向传播算法(BPTT)。 主要思想：通过类似前馈神经网络的BP算法来进行计算梯度。BPTT算法将RNN看作是一个展开的前馈神经网络，其中“每一层”对应循环网络中的“每个时刻”。基于门控的循环神经

7、网络基于门控的循环神经网络 为克服记忆容量问题，引入门控来控制信息累积速度。 长短期记忆网络(LSTM)网络是RNN的一个变体，可以有效地解决简单RNN的梯度爆炸或消失问题。玻尔兹曼机玻尔兹曼机( (Boltzmann machine) ) 每个随机变量是二值的 所有节点之间是全连接的卷积核 每两个变量之间的相互影响 适于解决两类问题： 搜索问题、学习问题 玻尔兹曼机可以看做是一个随机动力系统（stochastic dynamical system），每个变量的状态都以一定的概率受到其它变量的影响。玻尔兹曼机可以用概率无向图模型来描述。受限玻尔兹曼机受限玻尔兹曼机( (Restricted B

8、oltzmann Machine) ) 同一层无连接 不同层全连接 RBM是一个二分图结构的无向图模型。 RBM的变量分为隐藏变量和可观测变量，分别用可观测层和隐藏层来表示这两组变量。有七个变量的RBM深度信念网络深度信念网络( (DBN) ) 最底层为可观测变量 顶层为无向连接 DBN是一种深层的概率有向图模型，其图结构由多层节点构成。每层节点的内部没有连接，相邻两层的节点为全连接。 训练方法： 逐层预训练 精调（fine-tuning）概率生成模型概率生成模型( (generative model) ) 简称生成模型，是概率统计和机器学习中的一类重要模型，指一系列用于随机生成可观测数据的模

9、型。 密度估计 生成样本 可以表示为 ，由贝叶斯公式可以转换为判别模型 生成模型是在求联合概率 常见的生产模型有隐马尔科夫模型、朴素贝叶斯模型、高斯混合模型等变分自编码器变分自编码器( (variational auto-encoder, VAE) ) VAE是一种深度生成模型，其思想是利用神经网络来分别建模两个复杂的条件概率密度函数。 推断网络 生成网络类似自编码器但是输出为分布。 生成模型：对抗生成网络对抗生成网络( (generative adversarial networks) ) 生成网络G 判别网络D 训练需要平衡两个网络的能力，每次迭代使D比G稍强 生成对抗网络(GAN)是通过

10、对抗训练的方式来使得生成网络产生的样本服从真实数据分布。深度学习的优点深度学习的优点 采用非线性处理单元组成的多层结构，使得概念提取可以由简单到复杂。 每一层中非线性处理单元的构成方式取决于要解决的问题；同时，每一层学习模式可以按需求调整为有监督学习或无监督学习。这样的架构非常灵活，有利于根据实际需要调整学习策略，从而提高学习效率。 学习无标签数据优势明显。不少深度学习算法通常采用无监督学习形式来处理其他算法很难处理的无标签数据。现实生活中，无标签数据比有标签数据存在更普遍。因此，深度学习算法在这方面的突出表现，更凸显出其实用价值。深度学习的应用深度学习的应用 在计算机视觉领域，深度学习已成功

11、用于处理包含有上千万图片的ImageNet数据集。 在语音识别领域，微软研究人员通过与Hinton合作，首先将深度学习模型RBM和DBN引入到语音识别声学模型训练中，并且在大词汇量语音识别系统中获得巨大成功，使得语音识别的错误率相对减低30%。 在自然语言处理领域，采用深度学习构建的模型能够更好地表达语法信息。RNN可以模拟动态的时间序列，把过去的输出作为下一时间的输入，这样可以描述动态的信号。基于深度学习的图像标题生成案例基于深度学习的图像标题生成案例Oriol Vinyals, Alexander Toshev, Samy Bengio, and Dumitru Erhan.Show an

12、d Tell: A Neural Image Caption Generator. (CVPR2015).主流深度学习框架系统介绍主流深度学习框架系统介绍 Caffe是经典的深度学习框架，为单机版系统。Caffe采用C+/CUDA架构，支持命令行、Python和MATLAB接口，可以在CPU和GPU直接无缝切换。Caffe是一个深度卷积神经网络的学习框架，使用Caffe可以比较方便地进行CNN模型的训练和测试，不适合其他类型模型。Caffe提供了prototxt语法支持构造神经网络，官方提供了大量样例可以参考。Caffe作为C+语言以及配合了CUDA开发的框架，具有较高训练效率。目前开发者已经

13、对Caffe进行了大规模重构，新版本Caffe 2则支持了分布式训练及很多新的特性。主流机器学习系统的分类与介绍主流机器学习系统的分类与介绍 TensorFlow是谷歌基于DistBelief进行研发的第二代人工智能学习系统，其命名来源于本身的运行原理，Tensor（张量）意味着N维数组，Flow（流）意味着基于数据流图的计算，TensorFlow为张量从流图的一端流动到另一端计算过程。TensorFlow是将复杂的数据结构传输至人工智能神经网中进行分析和处理过程的系统。TensorFlow一大亮点是支持异构设备分布式计算，它能够在各个平台上自动运行模型，从手机、单个CPU / GPU到成百上

14、千GPU卡组成的分布式系统。 TensorFlow支持CNN、RNN和LSTM等多种算法。TensorFlow提供的 TensorBoard 可视化工具对训练模型十分有帮助。TensorFlow具有Google强大技术支持，也具有广泛的社区，目前是工业和学术研究最常用的框架。主流机器学习系统的分类与介绍主流机器学习系统的分类与介绍 MXNet是一个新型的深度学习框架，综合了其他几个框架的优点进行设计，是亚马逊主推的深度学习框架。现有的系统大部分采用声明式或命令式两种编程模式的一种，MXNet尝试将两种模式无缝的结合起来。在命令式编程上MXNet提供张量运算，而声明式编程中MXNet支持符号表达

15、式。用户可以自由的混合它们来快速实现自己的想法。MXNet资源和计算的调度、内存分配资源管理、数据的表示、计算优化等都做了优化设计，原生支持分布式训练的。主流机器学习系统的分类与介绍主流机器学习系统的分类与介绍 Keras和Pytorch是易用性上十分出色的框架。Keras 提供了简单易用的 API 接口，特别适合初学者入门。其后端采用 TensorFlow、CNTK，以及Theano，Keras 几乎已经成了 Python 神经网络的接口标准。Pytorch提供了基于Python的动态深度学习库，语法类似numpy，非常高效；基于Pytorch开发深度学习算法，方便快速，适合CPU和GPU计

16、算。Pytorch支持动态构建神经网络结构易于调试和推导也受到广泛关注。计算机视觉概述计算机视觉概述 深度学习在计算机视觉领域四大基本任务中的应用，包括分类，定位、检测，语义分割和实例分割，如图所示。大规模视觉计算的关键问题大规模视觉计算的关键问题 大规模特征表达。大规模特征表达，就是在多源异质的视觉大数据中找到具有较好泛化性和不变性的特征。在模式识别和计算机视觉领域中，强大的特征对于实际应用效果来说非常关键。因此，要分析跨景跨媒、多源异质的视觉大数据，就必须找到鲁棒的特征表达。 大规模模型学习。视觉大数据时代，我们需要面对海量庞杂、种类繁多的视觉大数据。人工设计的特征不一定适用于大规模的模型

17、学习。深度学习可以直接从海量数据中进行模型学习，且数据量越多模型效果越好，这是深度学习在大规模视觉计算中广泛应用的重要因素。 大规模知识迁移。传统学习和迁移学习有什么区别？在传统学习中，每一数据域都有一个独立的学习系统，且不同域之间的学习过程是相互独立的。而在迁移学习中，源域学习得到的知识可以用以指导目标域的学习过程。 大规模视觉计算的关键问题大规模视觉计算的关键问题 为什么在视觉大数据背景下进行知识迁移是可行的？答案可以总结为3V： 第一，Volume。数据规模大，提供了足够的迁移数据源。 第二，Variety。视觉大数据中的数据呈现多源异构多模态等性质，为知识迁移提供了必要条件。 第三，Velocity。如今数据更新的速度特别快，利用迁移学习可以避免重复学习，即可以在已有模型的基础上更新模型，而不必对所有数据重新学习。图像分类卷积神经网络设计图像分类卷积神经网络设计 LeNet-5手写数字识别网络 ILSVRC 2012的冠军网络 ILSVRC 2014的亚军网络