第五章机器学习.ppt

《第五章机器学习.ppt》由会员分享，可在线阅读，更多相关《第五章机器学习.ppt（32页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第第5章章 机器学习机器学习5.1 5.1 机器学习的定义、研究意义与发展历史机器学习的定义、研究意义与发展历史机器学习的定义、研究意义与发展历史机器学习的定义、研究意义与发展历史 5.2 5.2 机器学习的主要策略与基本结构机器学习的主要策略与基本结构机器学习的主要策略与基本结构机器学习的主要策略与基本结构5.3 5.3 几种常用的学习方法几种常用的学习方法几种常用的学习方法几种常用的学习方法5.4 5.4 基于神经网络的学习基于神经网络的学习基于神经网络的学习基于神经网络的学习 1 1 5.1 5.1 机器学习的定义和发展历史机器学习的定义和发展历史5.1.1 机器学习的定义机器学习的定义

2、l l机器学习的定义机器学习的定义 顾名思义顾名思义,机器学习是研究如何使用机器来机器学习是研究如何使用机器来模拟人类学习活动的一门学科。稍为严格模拟人类学习活动的一门学科。稍为严格的提法是：机器学习是一门研究机器获取的提法是：机器学习是一门研究机器获取新知识和新技新知识和新技 能能,并识别现有知识的学问。并识别现有知识的学问。2 25.1.25.1.2机器学习的发展史机器学习的发展史l l机器学习的发展分为机器学习的发展分为4 4个时期个时期第一阶段是在第一阶段是在5050年代中叶到年代中叶到6060年代中叶年代中叶，属于热烈时期。属于热烈时期。第二阶段在第二阶段在6060年代中叶至年代中叶

3、至7070年代中叶年代中叶，被，被称为机器学习的冷静时期。称为机器学习的冷静时期。第三阶段从第三阶段从7070年代中叶至年代中叶至8080年代中叶年代中叶，称，称为复兴时期。为复兴时期。机器学习的最新阶段始于机器学习的最新阶段始于19861986年年 。3 3机器学习进入新阶段的表现机器学习进入新阶段的表现l l机器学习机器学习已成为新的边缘学科并在高校形已成为新的边缘学科并在高校形成课程。成课程。l l综合各种学习方法综合各种学习方法l l 机器学习与人工智能问题机器学习与人工智能问题的统一性观点正的统一性观点正在形成。在形成。l l各种学习方法的应用范围不断扩大。各种学习方法的应用范围不断

4、扩大。l l数据挖掘和知识发现数据挖掘和知识发现的研究已形成热潮的研究已形成热潮 。l l与机器学习有关的学术活动空前活跃与机器学习有关的学术活动空前活跃 。4 45.2 5.2 机器学习的主要策略和基本结构机器学习的主要策略和基本结构 5.2.1 机器学习的主要策略机器学习的主要策略 按照学习中使用推理的多少，机器学习所采按照学习中使用推理的多少，机器学习所采用的策略大体上可分为用的策略大体上可分为4 4种种机械学习机械学习、通通过传授学习过传授学习、类比学习类比学习和和通通过事例学习。过事例学习。l l机械学习机械学习l l传授学习策略传授学习策略l l类比学习系统类比学习系统l l通过通

5、过事例学习策略事例学习策略5 55.2.2 机器学习系统的基本结构机器学习系统的基本结构 1.学习系统的基本结构 环环 境境学学 习习知识库知识库执执 行行学习系统的基本结构学习系统的基本结构6 62.2.影响学习系统设计的要素影响学习系统设计的要素影响学习系统设计的最重要因素影响学习系统设计的最重要因素是环境向系统提供的信息是环境向系统提供的信息，或者，或者更具体地说是信息的质量更具体地说是信息的质量。知识库是影响学习系统设计的第知识库是影响学习系统设计的第二个因素。二个因素。知识的表示有特征向知识的表示有特征向量、一阶逻辑语句、产生式规则、量、一阶逻辑语句、产生式规则、语义网络和框架等多种

6、形式。语义网络和框架等多种形式。7 75.3.1 5.3.1 机械学习机械学习1.1.机械学习模式机械学习模式 机械学习是最简单的学习方法。机械学习机械学习是最简单的学习方法。机械学习就是记忆，即把新的知识存储起来，供需要时就是记忆，即把新的知识存储起来，供需要时检索调用，而不需要计算和推理。它是一种最检索调用，而不需要计算和推理。它是一种最基本的学习过程。基本的学习过程。5.3 常见的几种学习方法常见的几种学习方法8 8存储存储计算计算推导推导归纳归纳算法与理论算法与理论机械记忆机械记忆搜索规则搜索规则数据化简级别图数据化简级别图 LenatLenat，Hayes-RothHayes-Rot

7、h，和，和KlahrKlahr等人于等人于19791979年年关于机械学习提出一种有趣的观点关于机械学习提出一种有趣的观点9 92.2.机械学习的主要问题机械学习的主要问题l l存储组织信息存储组织信息：要采用适当的存储方式，要采用适当的存储方式，使检索速度尽可能地快。使检索速度尽可能地快。l l环境的稳定性与存储信息的适用性问题：环境的稳定性与存储信息的适用性问题：机械学习系统必须保证所保存的信息适机械学习系统必须保证所保存的信息适应于外界环境变化的需要。应于外界环境变化的需要。l l存储与计算之间的权衡：存储与计算之间的权衡：对于机对于机械学习械学习来说很重要的一点是它不能降低系统的来说很

8、重要的一点是它不能降低系统的效率。效率。7.3 机械学习10105.3.2 解释学习解释学习解释学习过程和算法解释学习过程和算法 19861986年米切尔（年米切尔（MitchellMitchell）等人为基于解释等人为基于解释的学习提出了一个统一的算法的学习提出了一个统一的算法EBGEBG：训练例子 操作准则 知识库 新规则 目标概念1111EBG求解问题的形式可描述于下求解问题的形式可描述于下:给定：给定：(1)目标概念描述目标概念描述TC；(2)训练实例训练实例TE；(3)领域知识领域知识DT；(4)操作准则操作准则OC。求解：求解：训练实例的一般化概括，使之满足：训练实例的一般化概括，

9、使之满足：(1)目标概念的充分概括描述目标概念的充分概括描述TC；(2)操作准则操作准则OC。12125.3.3 基于事例的学习当无法建立好的模型时，通过记录事例进行学习是一种可取的方法。这时，在信息被应用之前，不对它进行任何处理。采用基于事例的学习方法时，首先，任何时候都可以应用相容启发(consistency heuristic)方法，把某个预先观察过的事物的特性赋给另一个从未见过的新事物。其次，学会如何应用K-维树迅速地找到特征空间内的最近邻物体。1313最近邻物体的寻求(1)快速串行过程以对数次数求得最近邻物快速串行过程以对数次数求得最近邻物体体(2)并行硬件更快求得最近邻物体并行硬件

10、更快求得最近邻物体1414定义：定义：定义：定义：决策树是一种表示，是一种语义树。树上，决策树是一种表示，是一种语义树。树上，(a)(a)每个节点与一个可能回答集合有关。每个节点与一个可能回答集合有关。(b)(b)每个每个非终叶节点与某个测试有关，该测试把它的可能非终叶节点与某个测试有关，该测试把它的可能回答集合分解为对应于不同测试结果的一些子集。回答集合分解为对应于不同测试结果的一些子集。(c)(c)每个分支把一个具体的测试结果子集传给另一每个分支把一个具体的测试结果子集传给另一个节点。个节点。定义：定义：定义：定义：k-k-维树是一种表示，它是一种决策树，树维树是一种表示，它是一种决策树，

11、树上，上，(a)(a)可能回答集合由点组成，其中有个点可可能回答集合由点组成，其中有个点可能是给定点的最近邻点。能是给定点的最近邻点。(b)(b)每个测试规定一个每个测试规定一个坐标、一个阈值和一个围绕该阈值的不合点的中坐标、一个阈值和一个围绕该阈值的不合点的中性区。性区。(c)(c)每个测试根据每个点处在阈值的哪一每个测试根据每个点处在阈值的哪一边而把点的集合分为两组。边而把点的集合分为两组。15155.3.4基于概念的学习归纳学习归纳学习(inductive learning)是研究最广的一种符号学习(symbolic learning)方法，它表示从例子设想出假设的过程。在进行归纳学习时

12、，学习者从所提供的事实或观察到的假设进行归纳推理，获得某个概念。归纳推理是个从部分到全体，从特殊到一般的推理过程。从应用角度看，归纳学习可分为概念学习、概念聚集和启发学习3种。1616概念学习概念学习概念学习概念学习(concept learning)(concept learning)研究遵循两条不同研究遵循两条不同的路线，即有两种不同的观点。一种是基于工程的路线，即有两种不同的观点。一种是基于工程方法的概念学习，它从可能的学习机理出发方法的概念学习，它从可能的学习机理出发(不管不管这些机理是否存在于生命组织内这些机理是否存在于生命组织内)，试图试验并确，试图试验并确定概念学习的工程方法。另

13、一种是基于认知建模定概念学习的工程方法。另一种是基于认知建模的概念学习，极力开发出人类概念学习的计算理的概念学习，极力开发出人类概念学习的计算理论。本节仅讨论概念学习问题，而且只从工程角论。本节仅讨论概念学习问题，而且只从工程角度来研究基于概念的学习。概念学习的首要任务度来研究基于概念的学习。概念学习的首要任务在于构造类型定义。在本节中，我们首先讨论类在于构造类型定义。在本节中，我们首先讨论类型定义，包括统计定义法和结构定义法，然后研型定义，包括统计定义法和结构定义法，然后研究分类程序。究分类程序。17175.3.5 基于类比的学习类比(analogy)是一种很有用的和有效的推理方法，它能够清

14、晰简洁地描述对象间的相似性；同时，它也把某些测试相似性质的任务由演讲者(或教师)转移到听者(或学生)。例如，我说肖锋像部消防车，还告诉你某些情况。不过，要使用这条信息，你还得确定肖锋在哪些方面像部消防车。18185.3.5 归纳学习归纳学习(1)枚举归纳枚举归纳(2)联想归纳联想归纳(3)类比归纳类比归纳(4)逆推理归纳逆推理归纳(5)消除归纳消除归纳19195.3.7 强化学习强化学习强化学习强化学习(reinforcement learning(reinforcement learning，又称再励学习，评价学，又称再励学习，评价学习习)是一种重要的机器学习方法，在智能控制机器人及分是一种

15、重要的机器学习方法，在智能控制机器人及分析预测等领域有许多应用但在传统的机器学习分类中没析预测等领域有许多应用但在传统的机器学习分类中没有提到过强化学习，而在连接主义学习中，把学习算法分有提到过强化学习，而在连接主义学习中，把学习算法分为三种类型，即非监督学习为三种类型，即非监督学习(unsupervised learning)(unsupervised learning)、监、监督学习督学习(supervised leaning)(supervised leaning)和强化学习所谓强化学习就和强化学习所谓强化学习就是智能系统从环境到行为映射的学习，以使奖励信号是智能系统从环境到行为映射的学

16、习，以使奖励信号(强强化信号化信号)函数值最大，强化学习不同于连接主义学习中的函数值最大，强化学习不同于连接主义学习中的监督学习，主要表现在教师信号上，强化学习中由环境提监督学习，主要表现在教师信号上，强化学习中由环境提供的强化信号是对产生动作的好坏作一种评价供的强化信号是对产生动作的好坏作一种评价(通常为标通常为标量信号量信号)，而不是告诉强化学习系统，而不是告诉强化学习系统RLS(reinforcementRLS(reinforcement learning system)learning system)如何去产生正确的动作由于外部环境如何去产生正确的动作由于外部环境提供的信息很少，提供的

17、信息很少，RLSRLS必须靠自身的经历进行学习通过必须靠自身的经历进行学习通过这种方式，这种方式，RLSRLS在行动在行动-评价的环境中获得知识，改进行动评价的环境中获得知识，改进行动方案以适应环境方案以适应环境 2020强化学习的基本模型和原理强化学习的基本模型和原理21215.4 基于神经网络的学习5.4.1 神经网络的组成与特性 1.生理神经元的结构与功能生理神经元的结构与功能22222.人工神经元的组成与分类 人工神经网络(artificial neural nets,ANN)或模拟神经网络是由模拟神经元组成的，可把ANN看成是以处理单元PE(processing element)为节

18、点，用加权有向弧(链)相互连接而成的有向图。其中，处理单元是对生理神经元的模拟，而有向弧则是轴突-突触-树突对的模拟。有向弧的权值表示两处理单元间相互作用的强弱。2323图中，来自其它神经元的输入乘以权值，然后相加。把所有总和与阈值电平比较。当总和高于阈值时，其输出为1；否则，输出为0。大的正权对应于强的兴奋，小的负权对应于弱的抑制。2424ANN的数学描述 令来自其它处理单元令来自其它处理单元(神经元神经元)i)i的信息为的信息为XiXi，它们与本处理，它们与本处理单元的互相作用强度为单元的互相作用强度为WiWi，i=0,1,i=0,1,，n-1n-1，处理单元的内，处理单元的内部阈值为部阈

19、值为。那么本神经元的输入为。那么本神经元的输入为 而处理单元的输出为而处理单元的输出为 式中，式中，xi xi为第为第i i个元素的输入，个元素的输入，wiwi为第为第i i个元素与本处理单元个元素与本处理单元的互联权重。的互联权重。f f称为激发函数称为激发函数(activation function)(activation function)或作用函或作用函数。它决定节点数。它决定节点(神经元神经元)的输出。该输出为的输出。该输出为1 1或或0 0取决于其取决于其输入之和大于或小于内部阈值输入之和大于或小于内部阈值。2525常用激发函数：26265.4.2 基于反向传播网络的学习1.反向传

20、播网络的结构27272.2.反向传播公式反向传播公式 反向传播特性的数学论证是以下列两个概念反向传播特性的数学论证是以下列两个概念为依据的：为依据的：1)1)设设y y为某些变量为某些变量xi xi的平滑函数。我们想知道如何的平滑函数。我们想知道如何实现每个实现每个xi xi初始值的递增变化，以便尽可能快地初始值的递增变化，以便尽可能快地增大增大y y值，每个值，每个xi xi初始值的变化应当与初始值的变化应当与y y对对xi xi的偏导的偏导数成正比，即数成正比，即 这个概念称为梯度法这个概念称为梯度法(gradient ascent)(gradient ascent)。(2)(2)设设y

21、y为某些中间变量为某些中间变量xi xi的函数，而每个的函数，而每个xi xi又又为变量为变量z z的函数。我们要知道的函数。我们要知道y y对对z z的导数，即的导数，即 这个概念称为连锁法这个概念称为连锁法(chain rule)(chain rule)。282829293.3.反向传播学习算法反向传播学习算法反向传播学习算法反向传播学习算法 (1)(1)选取比率参数选取比率参数r r，(2)(2)进行下列过程直至性能满足要求为止进行下列过程直至性能满足要求为止:对于每一训练对于每一训练(采样采样)输入，输入，(a)(a)计算所得输出。计算所得输出。(b)(b)按下式计算输出节点的值按下式

22、计算输出节点的值 (c)(c)按下式计算全部其它节点按下式计算全部其它节点 (d)(d)按下式计算全部权值变化按下式计算全部权值变化 对于所有训练对于所有训练(采样采样)输入，对权值变化求和，并修正输入，对权值变化求和，并修正各权值。各权值。权值变化与输出误差成正比，作为训练目标输出只能权值变化与输出误差成正比，作为训练目标输出只能逼近逼近1 1和和0 0两值，而绝不可能达到两值，而绝不可能达到1 1和和0 0值。因次，当采用值。因次，当采用1 1作为目标值进行训练时，所有输出实际上呈现出大于作为目标值进行训练时，所有输出实际上呈现出大于0.90.9的值；而当采用的值；而当采用0 0作为目标值进行训练时，所有输出实际作为目标值进行训练时，所有输出实际上呈现出小于上呈现出小于0.10.1的值；这样的性能就被认为是满意的。的值；这样的性能就被认为是满意的。303031313232