(16)--2 机器学习大学计算机.ppt

《(16)--2 机器学习大学计算机.ppt》由会员分享，可在线阅读，更多相关《(16)--2 机器学习大学计算机.ppt（13页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、机器学习机器学习的定义学习是人类具有的智能行为机器学习(Machine Learning)是研究如何使用机器来模拟人类学习活动的一门学科是人工智能（Artificial Intelligence）研究发展到一定阶段的必然产物。是一门多领域交叉学科，设计概率论、统计学、逼近理论、凸分析理论、算法复杂度理论等多门学科。研究内容设计和分析让计算机可以“自动学习”的算法 学习算法是计算机对大量数据进行自动分析，获 得规律，再利用这些规律对未知数据进行预测。机器学习采用的主要策略是推理机制，学习中用的推理越多，系统的学习能力就越强发展历程二十世纪五十年代到七十年代初，人工智能研究处于“推理期”。研究重点

2、是赋予机器逻辑推理能力。代表性的工作A.Newell和H.Simon的“逻辑理论家”程序和“通用问题求解”程序，1975年获得图灵奖。“逻辑理论家”程序在1952年证明了注明数学家罗素和怀特海的名著数学原理中的38条定理，1963年证明了全部52条定理。值得一提的是，定理2.85甚至比罗素和怀海特的证明更加巧妙。随着研究向前发展，人们发现，仅具有逻辑推理能力远远实现不了人工智能。发展历程二十世纪七十年代中期，人工智能研究进入了“知识期”，大量专家系统问世，在很多应用领域取得了大量成果E.A.Feigenbaum作为知识工程之父在1994年获得图灵奖但面临“知识工程瓶颈”，由人把知识总结出来再教

3、给计算机是相当困难的发展历程1950年，图灵在关于图灵测试的文章中，提到了机器学习的可能性五十年代中后期，基于神经网络的学习开始出现六七十年代，基于逻辑表示的学习技术蓬勃发展八十年代，机器学习成为解决知识工程瓶颈问题的关键技术，走上人工智能的主舞台机器学习的种类R.S.Michalski等1983年把机器学习研究划分为从样例中学习在问题求解和规划中学习通过观察和发现学习从指令中学习机器学习的种类E.A.Feigenbaum等把机器学习划分为机械学习机械学习：死记硬背式学习，把外界输入的信息完全记录下来，需要时原封不动取出使用，这只是信息的存储与检索，并没有进行真正学习示教学习示教学习：类似于“

4、从指令中学习”类比学习类比学习：类似于“通过观察和发现学习”归纳学习归纳学习：“从样例中学习”，涵盖监督学习和无监督学习等，是目前研究最多、应用最广的主流技术二十世纪八十年代：符号主义决策树(Decision Tree)：以信息论为基础，以信息熵的最小化为目标，直接模拟人类对概念进行判定的树形流程基于逻辑的学习：归纳逻辑程序设计(Inductive Logic Programming，简称ILP),是机器学习和逻辑程序设计的交叉，使用一阶逻辑（谓词逻辑）进行知识表示，通过修改和扩充逻辑表达式完成对数据的归纳主流技术二十世纪九十年代中期之前：连接主义基于神经网络的学习。1986年，D.E.Rum

5、elhart等重新发明了注明的BP算法，产生了深远影响最大局限是“试错性”，学习过程涉及大量参数，参数的设置缺乏理论指导，参数调节影响学习结果主流技术二十世纪九十年代中期：统计学习(Statistical Learning)占据主流支持向量机(Support Vector Machine,简称SVM)以及更为一般的“核方法”(Kernel Methods)早在1963年，V.N.Vapnikjiu tichu“支持向量”的概念，他和A.J.Chervonenkis在1968年提出VC维，在1974年提出结构风险最小化原则主流技术二十一世纪：深度学习深度学习，就是很多层的神经网络。深度学习模型有大量参数，容易“过拟合”。人类进入了大数据时代，数据的存储量和计算设备有了大发展。应用现状计算机视觉自然语言处理搜索引擎自动驾驶天气预报、能源勘探、环境监测