第9章 机器学习PPT讲稿.ppt
《第9章 机器学习PPT讲稿.ppt》由会员分享,可在线阅读,更多相关《第9章 机器学习PPT讲稿.ppt(69页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、第第9章章 机器学习机器学习第1页,共69页,编辑于2022年,星期一9.1 符号学习符号学习 首先,我们指出,机器学习(这里指符号学习)是靠学习程序(或称为学习系统)实现的。学习程序的输入是数据、事实等各种各样的信息,输出则是知识,即概念、规则(规律)等。而且所学到的知识一般要存入知识库。第2页,共69页,编辑于2022年,星期一符号学习又可以分为不同的类型。通常是按学习策略、知识表示和应用领域等进行分类的。学习策略是学习中使用的推理方法。学习策略是按照学习程序对提供的信息所做的推理数量的多少来区分的。一种极端情况是没有任何推理功能,要增加系统知识时就得靠外界环境作大量的输入新知识的工作;另
2、一种极端情况则是学习程序有相当数量的推理,可以根据试验和观察,推导出有组织的知识,这样系统就可能独立地发现新理论或发明新概念。介于这两者之间就是学习程序有一定的推理能力,能适应减轻外界环境负担的各种折衷情况。第3页,共69页,编辑于2022年,星期一遗传算法(GeneticAlgorithm)是一种优化算法,它模拟了生物繁衍的遗传、变异和生物进化的自然选择过程。分类器系统是一种依靠信息传递的高度并行的规则库系统,它通过信任分配和规则发现进行学习。分类器系统运用遗传算法,把每一物种的个体对应于一个概念描述的变形,通过一个目标函数来确定哪些概念及其变化可保留在基因库中。第4页,共69页,编辑于20
3、22年,星期一9.1.1记忆学习记忆学习也称死记硬背学习或机械学习。这种学习方法不要求系统具有对复杂问题求解的能力,也就是没有推理技能,系统的学习方法就是直接记录问题有关的信息,然后检索并利用这些存储的信息来解决问题。第5页,共69页,编辑于2022年,星期一机械学习是基于记忆和检索的办法,学习方法很简单,但学习系统需要几种能力。(1)能实现有组织的存储信息。(2)能进行信息综合。(3)能控制检索方向。第6页,共69页,编辑于2022年,星期一9.1.2传授学习传授学习即通过对计算机指点教授的学习方法。具体来讲就是通过人机对话,把用户一般性意见或建议具体化,或者协助用户补充和修改原有的知识库。
4、例如FOO程序(1981年开发)是玩扑克牌的一种游戏,称为“红心牌游戏”,可以告诉系统游戏的规则以及若干取胜的建议,如“避免取点”,“如果某个对手已无某种花色的牌,则不要先出该花色的大牌”,“如某个对手有黑桃Q,就设法把它攻出来”等等。第7页,共69页,编辑于2022年,星期一9.1.3演绎学习演绎学习是基于演绎推理的一种学习。演绎推理是一种保真变换,即若前提真则推出的结论也为真。在演绎学习中,学习系统由给定的知识进行演绎的保真推理,并存储有用的结论。例如,当系统能证明AB且BC,则可得到规则AC,那么以后再要求证C,就不必再通过规则AB和BC去证明,而直接应用规则AC即可。演绎学习包括知识改
5、造、知识编译、产生宏操作、保持等价的操作和其他保真变换。演绎学习近几年才作为独立的学习策略。第8页,共69页,编辑于2022年,星期一9.1.4类比学习这是基于类比推理的一种学习方法。例如,学生在做练习时,往往在例题和习题之间进行对比,企图发现相似之处,然后利用这种相似关系解决习题中的问题。类比学习就是寻找和利用事物间的可类比的关系,从已有的知识推导出未知的知识。类比学习的过程包括以下主要步骤:(1)回忆与联想即当遇到新情况或新问题时,先通过回忆与联想,找出与之相似的已经解决了的有关问题,以获得有关知识;第9页,共69页,编辑于2022年,星期一(2)建立对应关系即建立相似问题知识和求解问题之
6、间的对应关系,以获得求解问题的知识;(3)验证与归纳即检验所获知识的有效性,如发现有错,就重复上述步骤进行修正,直到获得正确的知识。第10页,共69页,编辑于2022年,星期一9.1.5示例学习示例学习也称实例学习,它是一种归纳学习。示例学习是从若干实例(包括正例和反例)中归纳出一般概念或规则的学习方法。Winston的程序是在简单的积木世界领域中运行,其目的是要建立积木世界中物体概念定义的结构化表示,例如学习房子、帐篷和拱的概念,构造出这些概念定义的结构化描述。第11页,共69页,编辑于2022年,星期一系统的输入是积木世界某物体(或景象)的线条图,使用语义网络来表示该物体结构化的描述。例如
7、系统要学习拱桥概念,就给学习程序输入第一个拱桥示例,得到的描述如图91所示,这个结构化的描述就是拱桥概念的定义。接着再向程序输入第二个拱桥示例,其描述如图92所示。这时学习程序可归纳出如图93所示的描述。第12页,共69页,编辑于2022年,星期一图91第一个拱桥的语义网络第13页,共69页,编辑于2022年,星期一图92第二个拱桥的语义网络第14页,共69页,编辑于2022年,星期一假定下一步向程序输入一个拱桥概念的近似样品,并告知程序这不是拱桥(即拱桥的反例),则比较程序会发现当前的定义描述(图93)与近似样品的描述只是在B和D节点之间,“不接触”的链接弧有区别。由于近似样品不是拱桥,不是
8、推广当前定义描述去概括它,而是要限制该定义描述适用的范围,因而就要把“不接触”链修改为“必须不接触”,这时拱桥概念的描述如图94所示。这就是机器最后学到的拱桥概念。第15页,共69页,编辑于2022年,星期一图93学习程序归纳出的语义网络第16页,共69页,编辑于2022年,星期一图94拱桥概念的语义网络第17页,共69页,编辑于2022年,星期一例9.1假设示例空间中有桥牌中“同花”概念的两个示例:示例1:花色(c1,梅花)花色(c2,梅花)花色(c3,梅花)花色(c4,梅花)同花(c1,c2,c3,c4)示例2:花色(c1,红桃)花色(c2,红桃)花色(c3,红桃)花色(c4,红桃)同花(
9、c1,c2,c3,c4)花色(c1,x)花色(c2,x)花色(c3,x)花色(c4,x)同花(c1,c2,c3,c4)第18页,共69页,编辑于2022年,星期一例9.2假设示例空间存放有如下的三个示例:示例1:(0,2,7)示例2:(6,-1,10)示例3:(-1,-5,-10)这是三个3维向量,表示空间中的三个点。现要求求出过这三点的曲线。对于这个问题可采用通常的曲线拟合技术,归纳出规则:(x,y,2x+3y+1)即z2x3y1第19页,共69页,编辑于2022年,星期一9.1.6发现学习前面几节所讨论的几种学习方法,通常都认为所获取的都属其他实体(如书本、老师或专家)所拥有的知识。发现学
10、习则是系统直接从(数据)环境中归纳总结出规律性知识的一种学习。即发现学习是指机器获取知识无须外部拥有该知识的实体的帮助,甚至蕴含在客观规律中的这类知识至今尚未被人所知,因此发现学习也是一种归纳学习,而且是一种高级的学习过程。它要求系统具有复杂的问题求解能力。下面仅就这方面的研究作一点简要介绍。第20页,共69页,编辑于2022年,星期一9.1.7解释学习解释学习是近年来出现的一种机器学习方法。这种方法只用一个实例,运用领域知识,经过对实例的详细分析,构造解释结构,然后对解释进行推广得到一般性描述。解释学习的一般框架是:给定:领域知识、目标概念、训练实例和操作性准则。找出:满足操作性准则的关于目
11、标概念的充分条件。第21页,共69页,编辑于2022年,星期一为了具体地了解解释学习的学习过程,我们来看一个简单的例子。假设要学习的目标概念是:年青人总比年纪大的人更充满活力。并且已知如下事实:(1)一个实例:张三比他的父亲更充满活力。(2)一组论域知识:假设这一组论域知识能证明给出的实例就是目标概念的例子。第22页,共69页,编辑于2022年,星期一下面我们再看一个用PROLOG描述的法律领域基于解释学习的例子。领域理论:/*如果一个人感到沮丧,他会恨自己*/hate(X,X):-depressed(X)./*如果一个人买过某物,那么该物为他所拥有*/posses(X,Y):-buy(X,Y
12、)./*猎枪和手枪均为武器*/weapon(X):-shotgun(X).weapon(X):-pistol(X).第23页,共69页,编辑于2022年,星期一目标概念:/*如果X恨Y,并且X拥有一件武器,那么Y可能被X所杀。*/kill(X,Y):-hate(X,Y),weapon(Z),posses(X,Z).训练实例:depressed(john).buy(john,objl).shotgun(objl).操作准则:/*谓词depressed,buy,shotgun,pistol均为可操作性谓词*/operational(depressed(X).operational(buy(X,Y)
13、.operational(shotgun(X).operational(pistol(X).第24页,共69页,编辑于2022年,星期一在这一例子中,任务是学习有关法律上自杀的判断法则,所使用的实例即john自杀事件中的三条事实。下面再分两步进行:(1)分析阶段:生成一棵证明树,它用于解释为什么实例是目标概念的一个实例。(2)基于解释的泛化(ExplanationBasedGeneralization,简称EBG)阶段:通过将实例证明树中的常量用变量进行替换,从而完成解释的泛化,形成一棵基于解释的泛化树(简称EBG树),得到目标概念的一个充分条件。第25页,共69页,编辑于2022年,星期一图
14、95证明树第26页,共69页,编辑于2022年,星期一图96EBG树第27页,共69页,编辑于2022年,星期一9.2 神经网络学习神经网络学习 9.2.1生物神经元神神经经元元:神经细胞,生物神经系统的最基本的单元,基本结构如图。神经元由细胞体、树突和轴突组成。细胞体:细胞体:神经元主体,由细胞核、细胞质和细胞膜三部分构成。树突:树突:细胞体向外延伸的树状突起,接受来自其他神经元的传递信号;轴突:轴突:细胞体伸出的一条最长的突起,传出细胞体产生的输出信号;神神经经末末梢梢:轴突末端形成许多细的分枝。每一条神经末梢可以与其他神经元形成功能性接触,该接触部位称为突突触触。所谓功能性接触是指并非永
15、久性接触,它是神经元之间信息传递的奥秘之处。图97生物神经元基本结构第28页,共69页,编辑于2022年,星期一神经元的整合功能:一个神经元把来自不同树突的兴奋性或抑制性输入信号(突触后膜电位)累加求和的过程。考虑到输入信号的影响要持续一段时间(ms级),因此,神经元的整合功能是一种时空整合。当神经元的时空整合产生的膜电位超过阈值电位时,神经元处于兴奋状态,产生兴奋性电脉冲,并经轴突输出;否则,无电脉冲产生,处于抑制状态。第29页,共69页,编辑于2022年,星期一9.2.2人工神经元对生物神经元作以适当的结构简化和功能抽象,就得到所谓的人工神经元。人工神经元的结构模型如图。它是一个多输入单输
16、出的非线性阈值器件。其中:x1,x2,xn:神经元的n个输入信号量;w1,w2,wn对应n个输入的权值,它表示各信号源神经元与该神经元的连接强度;:表示神经元的输入总和,相应于生物神经细胞的膜电位,称为激活函数;y为神经元的输出;表示神经元的阈值。第30页,共69页,编辑于2022年,星期一人工神经元的输入输出关系可描述为:函数y=f(A)称为特性函数(亦称作用函数或传递函数)。特性函数可以看作是神经元的数学模型。常见的特性函数有以下几种:1.阈值型第31页,共69页,编辑于2022年,星期一 2.S型 这类函数的输入输出特性多采用指数、对数或双曲正切等S型函数表示。S型特性函数反映了神经元的
17、非线性输出特性,例如:3.分段线性型神经元的输入输出特性满足一定的区间线性关系,其特性函数表达如下,式中,K、Ak均表示常量。4.概率型神经元:一类二值型神经元,其输出状态为0或1是根据激励函数值的大小,按照一定的概率确定的。第32页,共69页,编辑于2022年,星期一9.2.3人工神经网络(ANN)如果将多个神经元按某种的拓扑结构连接起来,就构成了神经网络。根据连接的拓扑结构不同可分为四大类:1.分层前向网络网络由若干层神经元组成,一般有输入层、中间层(又称隐层,可有一层或多层)和输出层,各层顺序连接;信息严格按照从输入层进,经过中间层,从输出层出的方向流动。第33页,共69页,编辑于202
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第9章 机器学习PPT讲稿 机器 学习 PPT 讲稿
限制150内