人工智能之机器学习优秀PPT.ppt

人工智能之机器学习第1页，本讲稿共18页计算机算机与与控制控制学学院院机器学习的定义和发展历史机器学习的定义和发展历史 机器学习的定义p机器学习 机器学习是研究如何使用机器来模拟人类学习活动的一门学科。p稍为严格的提法是：机器学习 机器学习是一门研究机器获取新知识和新技能，并识别现有知识 的学问。机器学习的发展分为四个时期 p第一阶段是在 第一阶段是在50 年代中叶到 60年代中叶，属于热烈时期。p第二阶段在 60年代中叶至 70年代中叶，被称为机器学习的 冷静时期。p第三阶段从 70年代中叶至 80年代中叶，称为复兴时期。p1986 年之后，机器学习的研究进入理性的发展时期。第2页，本讲稿共18页计算机算机与与控制控制学学院院机器学习的目前状况机器学习的目前状况 机器学习进入新阶段的表现p机器学习已成为新的边缘学科并在高校形成课程。p综合各种学习方法p机器学习与人工智能问题的统一性观点正在形成。p各种学习方法的应用范围不断扩大。p数据挖掘和知识发现的研究已形成热潮。p与机器学习有关的学术活动空前活跃。第3页，本讲稿共18页计算机算机与与控制控制学学院院主要策略和基本结构主要策略和基本结构 机器学习的主要策略p按照学习中使用推理的多少，机器学习所采用的策略大体上可分为四种 n机械学习n传授学习策略n类比学习系统 n通过事例学习策略学习系统的基本结构第4页，本讲稿共18页计算机算机与与控制控制学学院院影响学习系统设计的要素影响学习系统设计的要素 首要因素p影响学习系统设计的最重要因素是环境向系统提供的信息，或者更具体地说是信息的质量。次要因素p知识库是影响学习系统设计的第二个因素。p知识的表示主要有以下几种形式：n特征向量n一阶逻辑语句 n 产生式规则 n语义网络和框架第5页，本讲稿共18页计算机算机与与控制控制学学院院机械学习机械学习 机械学习模式p机械学习是机器学习是最简单的学习方法。p机械学习就是记忆，即把新的知识存储起来，供需要时检索调用，而不需要计算和推理。它是一种最基本的学习过程。pLenat，Hayes-Roth，和Klahr 等人于1979年关于机械学习提出一种有趣的观点。第6页，本讲稿共18页计算机算机与与控制控制学学院院机械学习的主要问题机械学习的主要问题存储组织信息p要采用适当的存储方式，使检索速度尽可能地快。环境的稳定性与存储信息的适用性问题p机械学习系统必须保证所保存的信息适应于外界环境变化的需要。存储与计算之间的权衡p对于机械学习来说很重要的一点是它不能降低系统的效率。第7页，本讲稿共18页计算机算机与与控制控制学学院院归纳学习归纳学习Induction Learning归纳学习的概念p是应用归纳推理进行学习的一种方法。p根据归纳学习有无教师指导，可把它分为示例学习和观察与发现学习。归纳学习的模式第8页，本讲稿共18页计算机算机与与控制控制学学院院类比学习类比学习Learning by Analogy类比推理和类比学习方式类比学习就是通过类比，即通过对相似事物加以比较所进行的一种学习。p其推理过程如下：回忆与联想-选择-建立对应关系-转换第9页，本讲稿共18页计算机算机与与控制控制学学院院类比学习过程与研究类型类比学习过程与研究类型类比学习主要包括如下四个过程：1.输入一组已知条件和一组未完全确定的条件。2.对两组出入条件寻找其可类比的对应关系。3.根据相似转换的方法，进行映射。4.对类推得到的知识进行校验。类比学习的研究可分为两大类：1.问题求解型的类比学习2.预测推定型的类比学习。n两种方式：一是传统的类比法；另一是因果关系型的类比第10页，本讲稿共18页计算机算机与与控制控制学学院院解释学习解释学习解释学习过程和算法p1986年米切尔（Mitchell）等人为基于解释的学习提出了一个统一的算法EBG（基于解释的泛化）。p该算法建立了基于解释的概括过程，并运用知识逻辑表示和演绎推理进行问题求解。第11页，本讲稿共18页计算机算机与与控制控制学学院院EBG 求解问题的形式求解问题的形式给定：1.目标概念描述TC；2.训练实例TE；3.领域知识DT；4.操作准则OC。求解：p训练实例的一般化概括，使之满足：1.目标概念的充分概括描述TC2.操作准则OC。第12页，本讲稿共18页计算机算机与与控制控制学学院院神经学习神经学习 基于反向传播网络的学习p反向传播（back-propagation，BP）算法是一种计算单个权值变化引起网络性能变化值的较为简单的方法。pBP算法过程包含从输出节点开始，反向地向第一隐含层传播由总误差引起的权值修正。基于Hopfield网络的学习p反馈神经网络，它是一种动态反馈系统，比前馈网络具有更强的计算能力。pHopfield网络是一种具有正反相输出的带反馈人工神经元。第13页，本讲稿共18页计算机算机与与控制控制学学院院知识发现知识发现知识发现的发展和定义p知识发现的产生和发展n知识发现最早是于1989年8 月在第11届国际人工智能联合会议的专题讨论会上提出。p知识发现的定义n数据库中的知识发现是从大量数 据中辨识出有效的、新颖的、潜在有用的、并可被理解的 模式的高级处理过程。第14页，本讲稿共18页计算机算机与与控制控制学学院院知识发现的处理过程知识发现的处理过程1.数据选择p根据用户的需求从数据库中提取与KDD 相关的数据。2.数据预处理p主要是对上述数据进行再加工，检查数据的完整性及数据的一致性，对丢失的数据利用统计方法进行填补，形成发掘数据库。3.数据变换p即从发掘数据库里选择数据4.数据挖掘p根据用户要求，确定KDD 的目标是发现何种类型的知识。5.知识评价p这一过程主要用于对所获得的规则进行价值评定，以决定所得的规则是否存入基础知识库。第15页，本讲稿共18页计算机算机与与控制控制学学院院知识发现的方法知识发现的方法统计方法p统计方法是从事物的外在数量上的表现去推断该事物可能的规律性。机器学习方法神经计算方法可视化方法p可视化（visualization）就是把数据、信息和知识转化为可视的表示形式的过程。第16页，本讲稿共18页计算机算机与与控制控制学学院院知识发现的应用知识发现的应用知识发现已在许多领域得到应用。现在，知识发现已在银行业、保险业、零售业、医疗保健、工程和制造业、科学研究、卫星观察和娱乐业等行业和部门得到成功应用，为人们的科学决策提供很大帮助。第17页，本讲稿共18页计算机算机与与控制控制学学院院本讲内容小结本讲内容小结 本讲只对机器学习作个入门介绍。机器学习在过去十多年中获得较大发展。今后机器学习将在理论概念、计算机理、综合技术和推广应用等方面开展新的研究。其中，对结构模型、计算理论、算法和混合学习的开发尤为重要。在这些方面，有许多事要做，有许多新问题需要人们去解决。第18页，本讲稿共18页