论人工智能中的机器学习.pdf
人工智能中的机器学习第1 页 共 9 页学号 14082101445 罗诗雨序号（ 40）信息学院08 自动化班学号 14082101445 成绩：信息学院人工智能及其应用课程设计题目：人工智能中机器学习与应用作者罗诗雨班级自动 08-1BF班系别信息学院专业自动化完成时间 2011-6-12 评语：人工智能中的机器学习第2 页 共 9 页学号 14082101445 罗诗雨序号（ 40）信息学院08 自动化班目录摘要： . 3关键字 . 3引言： . 31. 机器学习系统的定义【1】 . 32机器学习的发展以及意义【2】 . 43机器学习系统的基本模型【3】 【5】. 44机器学习的分类与应用【4】 . 5（1）机械式学习 . 5（2）指导式学习 . 6（3）归纳学习。 . 6（4）类比学习 . 7（5）基于解释学习 . 75结论 . 86参考文献 . 9人工智能中的机器学习第3 页 共 9 页学号 14082101445 罗诗雨序号（ 40）信息学院08 自动化班人工智能中机器学习与应用摘要：人工智能（ Artificial Intelligence） ，是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、 技术及应用系统的一门技术科学。人工智能的发展，对现代社会的进步有着重要意义，本文重点研究的是人工智能中机器学习（machine learning）这一部分，机器学习是人工智能中一个重要的研究领域，一直受到人工智能以及认知心理学家的的普遍关注，促进机器学习的研究，对于人工智能的发展有着不可估量的作用。关键字：人工智能、机器学习、计算机、信息化、未来引言：科学技术日新月异，信息化时代已经来临。而信息化的进一步发展，必须有智能技术的进一步支持。自1956 年 Dartmouth 学会正式提出“人工智能”一词以来，人工智能领域吸引了无数研究人员为之奉献才智。机器学习 (Machine Learning) 是研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。 它是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域。1. 机器学习系统的定义【1】学习是人类具有的一种重要智能行为，但究竟什么是学习，长期以来却众说纷纭。社会学家、逻辑学家和心理学家都各有其不同的看法。至今，还没有统一的“ 机器学习 ” 定义，而且也很难给出一个公认的和准确的定义。比如， Langley（ 1996) 定义的机器学习是“ 机器学习是一门人工智能的科学，该领域的主要研究对象是人工智能，特别是如何在经验学习中改善具体算法的性能” 。 （ Machine learning is a science of the artificial. The fields main objects of study are artifacts, specifically algorithms that improve their performance with experience.） Mitchell（1997 ） 在其著作Machine Learning中定义机器学习是提到，“ 机器学习是对能通过经验自动改进的计算机算法的研究” 。 （Machine Learning is the study of computer algorithms that improve automatically through experience.）Alpaydin （2004）同时提出自己对机器学习的定义，“ 机器学习是用数据或以往的经验，以此优化计算机程序的性能标准。” （Machine learning is programming computers to optimize a performance criterion using example data or past experience. ）尽管如此， 为了便于进行讨论和估计学科的进展，有必要对机器学习给出定义，即使这人工智能中的机器学习第4 页 共 9 页学号 14082101445 罗诗雨序号（ 40）信息学院08 自动化班种定义是不完全的和不充分的。顾名思义， 机器学习是研究如何使用机器来模拟人类学习活动的一门学科。 稍为严格的提法是：机器学习是一门研究机器获取新知识和新技能，并识别现有知识的学问。这里所说的“ 机器 ” ，指的就是计算机2机器学习的发展以及意义【2】机器学习是人工智能研究较为年轻的分支，它的发展过程大体上可分为4 个时期第一阶段是在50 年代中叶到60 年代中叶， 属于热烈时期。 第二阶段是在60 年代中叶至70 年代中叶， 被称为机器学习的冷静时期。第三阶段是从70 年代中叶至80 年代中叶， 称为复兴时期。机器学习的最新阶段始于1986 年。机器学习进入新阶段的重要表现在下列诸方面：(1) 机器学习已成为新的边缘学科并在高校形成一门课程。它综合应用心理学、生物学和神经生理学以及数学、自动化和计算机科学形成机器学习理论基础。(2) 结合各种学习方法，取长补短的多种形式的集成学习系统研究正在兴起。特别是连接学习符号学习的耦合可以更好地解决连续性信号处理中知识与技能的获取与求精问题而受到重视。(3) 机器学习与人工智能各种基础问题的统一性观点正在形成。例如学习与问题求解结合进行、知识表达便于学习的观点产生了通用智能系统SOAR 的组块学习。类比学习与问题求解结合的基于案例方法已成为经验学习的重要方向。(4) 各种学习方法的应用范围不断扩大，一部分已形成商品。归纳学习的知识获取工具已在诊断分类型专家系统中广泛使用。连接学习在声图文识别中占优势。分析学习已用于设计综合型专家系统。遗传算法与强化学习在工程控制中有较好的应用前景。与符号系统耦合的神经网络连接学习将在企业的智能管理与智能机器人运动规划中发挥作用。(5) 与机器学习有关的学术活动空前活跃。国际上除每年一次的机器学习研讨会外，还有计算机学习理论会议以及遗传算法会议。机器学习的意义也是相当重要的：首先， 机器学习速度惊人；其次，机器学习可以把学习不断地延续下去，避免大量的重复学习，使知识积累达到新的高度；再次，机器学习有利于知识的传播。3机器学习系统的基本模型【3】【5】一个学习系统一般应该有环境，学习，知识库，执行与评价等四个基本部分组成。各个部分之间的关系如下图所示，其中箭头表示信息的流向。人工智能中的机器学习第5 页 共 9 页学号 14082101445 罗诗雨序号（ 40）信息学院08 自动化班图 1 （1） ： “环境”可以是外部信息的来源。它将为系统的学习机构提供有关信息。系统通过环境的搜索取得外部信息，然后经分析，综合，类比，归纳等思维过程获得知识，并将这些知识存入知识库中。环境可以是系统的工作对象，也可以包括工作对象和外界条件。例如在在控制系统中， 环境就是受控的设备或生产流程。就环境提供给系统的信息来说，信息的水平和质量对学习系统有很大影响。信息的水平是指信息的一般性程度，也就是适用范围的广泛性。学习环节的任务就是解决水平差距问题。（2） ： “知识库”知识库的形式就是知识表实的形式。常用的知识表实方法有：特征向量、谓词演算、产生式规则、过程、LISP 函数、数字多项式、语义网络和框架。选择知识表实方法要考虑下列准则：可表达性、推理难度、可修改性和可扩充性。学习系统实质上是对旧知识库的扩充和完善。（3） ： “学习环节与执行环节”的目的就是改善执行环节的行为。执行环节的复杂性、反馈和透明度都对学习环节有影响。复杂的任务需要更多的知识。二分分类是最简单的任务，只需一条规则。某个玩朴克的程序有约20 条规则。学习系统都要用某种方法去评价学习环节推荐的假设。 一种方法是用独立的知识库作这种评价。另一种方法是以环境作为客观的执行标准， 系统判定执行环节是否按预期标准工作，由此反馈信息评价当时的假设。若执行环节有较好的透明度，学习环节就容易追踪执行环节的行为。4机器学习的分类与应用【4】正如人们有各种各样的学习方法一样，机器学习也有多种学习方法。若按学习时所用的方法来进行分类，则机器学习可以分为机械式学习、指导式学习、 示范例学习、 类比学习、解释学习等。这是温斯顿在1977 年提出的一种分类方法。（1）机械式学习这种学习直接记忆环境提供的新知识，并直接使用它们，对它们不作任何变换。对于记忆学习有两种极端的观点。一种观点认为，存储对任何智能程序都是必要的、基本的，它不是独立的学习过程，不必要专门研究。另一种观点认为，存储是一个复杂问题，对任何认知系统都是必要的，因此要详细研究并模型化。一种折衷的观点认为，一般学习系统不会只是记忆学习，但记忆学习是任何学习系统的一部分。人工智能中的机器学习第6 页 共 9 页学号 14082101445 罗诗雨序号（ 40）信息学院08 自动化班Lenat(1979)提出一种独特的观点，他把记忆学习看作最低层次的数据处理。他划分的数据处理层次如下图所示。如果一个计算结果有普遍意义，就存储起来。 这就把计算任务简化为存取任务。记忆是简化数据处理，以空间换取时间的手段。图 2 （2）指导式学习指导式学习 (Learning by Being Told或 Learning by Instruction) 。又称为指点学习。这时，环境提供的信息较抽象，水平较高， 学习环节把这些信息变换成执行环节使用的较低水平的信息。 期间重点是实用化，即为它把抽象的建议转成具体的知识。实用化过程类似于自动程序设计。前者由建议得到实用的规则，后者由程序说明得到程序。二者也存在差别。后者要求得到完全正确的程序，强调程序的正确性。前者往往使用弱方法，不保证完全正确。实用化过程有时作试探性的假设和近似，只能要求其合理性。得到的假设还要经过检验和修改。（3）归纳学习。归纳学习是通过从环境中取得若干与某概念有关的例子，经归纳得出一般性概念的一种学习方法。在这种学习方法中，外部环境(教师 )提供的是一组例子(正例和反例 )，这些例子实际上是一组特殊的知识，每一个例子表达了仅适用于该例子的知识，实例学习就是要从这些特殊知识中归纳出适用于更大范围的一般性知识，它将覆盖所有的正例并排除所有反例。例如，如果我们用一批动物作为实例，并且告诉学习系统哪一个动物是“马”，哪一个动物不是，当实例足够多时，学习系统就能一般出关于“马”的概念模型，使自己能识别马，并且能把马与其它动物区别开来，这一学习过程就是归纳学习。图 3 人工智能中的机器学习第7 页 共 9 页学号 14082101445 罗诗雨序号（ 40）信息学院08 自动化班（4）类比学习类比学习 (Learning by Analogy) 。是获取新概念或新技巧的方法，它把类似这些新概念或新技巧的已知知识转换为适于新情况的形式。类比学习的第一步是从记忆中找到类似的概念或技巧， 第二步是把它们转换为新形式以便用于新情况。例如人类的一种学习方式是先由老师教学生解例题(先例 )，再给学生留习题。学生寻找在例题和习题间的对应关系，利用解决例题的知识去解决习题中的问题。学生经过一般化归纳推出原理，以便以后使用。 这种类比学习方式是人类常用的。问题求解基本过程：1.比较新状态与目标状态。2.选择可以减小这个差异的操作。3.如果前提满足就使用这个操作，否则保存新状态，并用中间结局分析解决子问题，以便实现未满足的前提。4.在解决子问题后，再取出保存的状态，继续处理原问题。转换类比学习主要有两步：（5）基于解释学习解释学习（ Explanation-Based Leaning, 简称 EBL ） 。起源于经验学习的研究。50 年代未，对神经元的模拟中发明了用一种符号来标记另一些符号的存储结构模型，这是早期的存储块（chunks）概念。在象棋大师的头脑中就保存着在各种情况下对弈经验的存储块。80 年代初， Newell 和 Rosenbloom 认为，通过获取任务环境中关于模型问题的知识，可以改进系统的性能， chunks 可以作为对人类行为进行模拟的模型基础。通过观察问题求解过程，获取经验chunks，用其代替各个子目标中的复杂过程，可以明显提高系统求解的速度。由此奠定了经验学习的基础。Mitchell 等人把基于解释的学习过程定义为两个步骤：（1） 通过求解一个例子来产生解释结构；（2） 对该解释结构进行一般化，获取一般的控制规则。其具体过程如下：（ 1）产生解释。用户输入实例后，系统首先进行问题求解。如由目标引导反向推理，从领域知识库中寻找有关规则，使其后件与目标匹配。找到这样的规则后，就把目标作为后件，该规则作为前件，并记录这一因果关系。然后以规则的前件作为子目标，进一步分解推理。如此反复，沿着因果链，直到求解结束。一旦得到解，便证明了该例的目标可满足，并获得了证明的因果解释结构。构造解释结构通常有两种方式：一是将问题求解的每一推理所用的算子汇集， 构成动作序列作为解释结构；另一种是自顶向下的遍历证明树结构。前者比较一般，略去了关于实例的某些事实描述；后者比较细致，每个事实都出现在证明树中。解释的构造可以在问题求解的同时进行，也可在问题求解结束后，沿着解路径进行。这两种方式形成了边解边学（Learning while doing ）和解完再学（Learning by solving ）两种方法。（ 2）对得到的解释结构以及事件进行一般。在这一步，通常采取的办法是将常量转换为变量， 即把例子中的某些数据换成变量，并略去某些不重要的信息，只保留求解所必需的那些关键信息，经过某种方式的组合，形成产生式规则，从而获得一般性的控制知识。要学习目标概念Safe-to-stack(V1,V2) 解此问题依据下列两步进行第一步：构造解释结构事实知识：On(obj1,obj2) 人工智能中的机器学习第8 页 共 9 页学号 14082101445 罗诗雨序号（ 40）信息学院08 自动化班Isa(obj2,Endtable) Color(obj1,red) Color(obj2,blue) Volume(obj1,1) Density(obj1,0.1)领域规则：Not(Fragile(y) Safe-to-stack(x,y) Lighter(x,y) Safe-to-stack(x,y) Volume(p1,v1) Density(p1,d1) X(v1,d1,w1) Weight(p1,w1) Isa(p1,Endtable)Weight(p1,5) Weight(p1,w1) Weight(p2,w2) (w1,w2) Lighter(p1,p2) 然后， 为证明该例子满足目标概念，系统从目标开始反向推理，根据知识库中已有的上述事实和规则， 分解目标， 每当使用一条规则时，同时返回去把该规则应用到变量化的目标概念上。 这样， 在生成该例子求解的解释结构的同时，也生成了变量化的一般的解释结构分别如以下两图所示。第二步：生成一般性知识将一般化的解释结构的所有叶结点的合取作为前件，以顶点的目标概念为后件，略去解释结构的中间部件，就生成一般化的产生式规则：Volume(V2,V48) Density(V2,V49) X(V48,V49,V42) Isa(V3,Endtable) (V42,5) Safe-to-stack(V2,V3) 注：使用生成的这个控制规则求解类似问题时，求解速度快且效率高。但是简单地把常量转为变量以实现一般化的方法可能过份一般化。在某些特例下可能使规则失败。5结论人工智能一直处于计算机技术的前沿，其研究和发展在很大程度上决定着计算机技术乃至整个社会的发展。而机器学习作为人工智能中极其重要的一环，正在迅猛的发展着，它使得计算机能够模拟人的学习行为，自动地通过学习获取知识和技能，不断改善性能， 实现自我完善。信息化的飞速发展给人工智能提出了更高的要求。人工智能发展的曲折性还将继续，但其潜能却是无限的。 也许不远的将来， 人们的生活方式将由于人工智能的发展而经历一场“革命” 。人工智能中的机器学习第9 页 共 9 页学号 14082101445 罗诗雨序号（ 40）信息学院08 自动化班6参考文献1王万良 .人工智能基础 M. 北京：高等教育出版社，2008 : 56-59 2 杨状元著 . 人工智能的现状及今后的发展趋势展望M. 北京 : 机械工业出版社，2006 : 78-89 3 刘毅著 . 人工智能和机器学习M. 西安电子科技大学出版社.1999 : 337-3424 孙珩著 . 机器学习的研究现状M. 清华大学出版社.2003 : 222-2425 卢妙娜著 . 人工智能综述 M. 机械工业出版社.2008 : 134-1366 吴玺宏著 .从人工智能到智能机器人M. 北京：科学出版社，2007 : 156-167
