人工智能概述.pdf

《人工智能概述.pdf》由会员分享，可在线阅读，更多相关《人工智能概述.pdf（59页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、人工智能概述 人工智能：模型与算法人工智能：模型与算法 提纲提纲 1、 可计算可计算思想起源与发展思想起源与发展 2、人工智能历史发展人工智能历史发展 3、人工智能研究基本内容、人工智能研究基本内容 古代哲人对智能的思考古代哲人对智能的思考 智能发谋 信能赏罚 仁能服众 勇能果断 严能立威 五德皆备，然后可以为大将 孙武 （约公元前545年约公元前470年） 知（通智）者不惑 仁者不忧 勇者不惧 孔子 （公元前551年公元前479年） 孟子 公元前372年-公元前289年 恻隐之心，仁之端也 羞恶之心，义之端也 辞让之心，礼之端也 是非之心，智智之端也 荀子的智能观：荀子的智能观：荀子荀子.

2、. 正名正名 知之在人者谓 之知知 知觉：知觉：人所固有认识外界客 观事物本能，如视觉、听觉 和触觉等能力 知有所合谓之 智智 智慧：智慧：知觉对外界事物的认 知 所以能之在人 者为之能能 本能：本能：人身上所具用来处置 事物能力 能有所合谓之 能能 智能：智能：对外界所产生的认知 和决策 荀子 战国末期赵国人 (约公元前313年公元前238年) 从感知、到理解、到认知、到决策与行动 计算的诞生：从手工计算到自动计算计算的诞生：从手工计算到自动计算 上古结绳而治，后世圣人易之以 书契，百官以治，万民以察。 周易 系辞 可计算思想：从可计算到不可计算可计算思想：从可计算到不可计算 20世纪初，人

3、们发现有许多问题无法找到解决的方法。于是开始怀疑，是否对这些问 题来说，根本就不存在算法，即不可计算不可计算。 从费马猜想到 费马定理 费马：法国业余数学家 （1601-1665） 新一代新一代人工智能发展规划人工智能发展规划 人工智能：以机器为载体的人类智能或生物智能人工智能：以机器为载体的人类智能或生物智能 Mathematical Problems (23个数学问题) Lecture delivered before the International Congress of Mathematicians at Paris in 1900 工欲善其事，必先利其器：智能之器从何而来 Dav

4、id Hilbert (1862-1943) 德国著名数学家 问题2： 证明算术公理的相容性 (the compatibility of the arithmetical axioms) 完备性：所有能够从该形式化系统推导出来的 命题，都可以从这个形式化系统推导出来。 一致性：一个命题不可能同时为真或为假 可判定性：算法在有限步内判定命题的真伪 如何证明（计算）这 一问题？可用怎样的 “计算载体”来实现？ 新一代新一代人工智能发展规划人工智能发展规划 人工智能：以机器为载体的人类智能或生物智能人工智能：以机器为载体的人类智能或生物智能 Kurt Friedrich G del(1906-197

5、8) 任何表达力足够强的(递 归可枚举)形式系统都不 可能同时具有一致性和 完备性 论数学原理及有关系统中不可判定 命题(On Formally Undecidable Propositions of Principia Mathematica and Related Systems) 工欲善其事，必先利其器：智能之器从何而来 On Computable Numbers, with an Application to the Entscheidungsproblem,1937 论数字计算在决断难题中的应用 图灵机模型计算“12+8”的过程示意 人工智能：以机器为载体的人类智能或生物智能人工智能

6、：以机器为载体的人类智能或生物智能 Alan Turing (1912-1954) 工欲善其事，必先利其器：智能之器从何而来 “判定性问题”是无法解决的， 即有些数学问题是不可求解的 (图灵不可停机的) 人工智能：以机器为载体的人类智能或生物智能人工智能：以机器为载体的人类智能或生物智能 工欲善其事，必先利其器：智能之器从何而来 邱奇图灵论题 (ChurchTuring thesis, computability thesis) 计算载体 提出学者 计算角度 原始递归函数 哥德尔 Godel 数学的 演算 ( calculus) 丘奇 Church 数理逻辑的 图灵机 图灵Turing 机械的

7、 图灵奖：计算机界最高奖（1966年设立） Alan Turing (1912-1954) 二战提前五年结束的 解码器Enigma 图灵机模型使得人类得以迈入自动计算时代图灵机模型使得人类得以迈入自动计算时代 对智能的测试：对智能的测试：图灵测试图灵测试 摩尔定律支撑自动计算时代快速发展：摩尔定律支撑自动计算时代快速发展： 摩尔定律摩尔定律 （计算机速度（计算机速度1年半增长年半增长1倍），亿级晶体管、千亿指令倍），亿级晶体管、千亿指令/秒秒 提纲提纲 1、 可计算思想起源与发展可计算思想起源与发展 2、人工智能历史发展、人工智能历史发展 3、人工智能研究基本内容、人工智能研究基本内容 人工智

8、能：以机器为载体实现的人类智能人工智能：以机器为载体实现的人类智能 人脑进化年龄：漫长人脑进化年龄：漫长400万年万年 南方古猿 直立行走 能人 制造工具 直立人 使用火、熟食 古人 保存火、语言 智人 狩猎、住所 脑容量越来越大、能力越来越强 人类共同祖先人类共同祖先/人类祖母：人类祖母：400万年前的露西万年前的露西 人类祖母“露西”(Lucy)于1974年在埃塞俄比亚被发现 这具骨化石在发现时存留40%骨架。据推断，她生前是一位20多岁女性 从树上跌落而亡，陆栖与树栖交替阶段 人类一直怀有对人类之外智能的追求梦想人类一直怀有对人类之外智能的追求梦想 三国：木牛流马 西周：偃师造人 希腊火

9、神赫菲斯托斯： 黄金机器女仆 沙特第一个公民 机器人:索菲亚 人工智能的人工智能的诞生诞生 Research Project on Artificial Intelligence , August 31, 1955, Dartmouth 当年提出当年提出AI概念的建议书概念的建议书 AI概念提出概念提出50年后，建议人合影年后，建议人合影 四位学者在1955年提出了人工智能这一术语及 研究范畴 John McCarthy (时任Dartmouth数学系助理教授， 1971年度图灵奖获得者) Marvin Lee Minsky (时任哈佛大学数学系和神经 学系Junior Fellow，1969

10、年度图灵奖获得者) Claude Shannon (Bell Lab, 信息理论之父) Nathaniel Rochester(IBM, 第一代通用计算机701 主设计师) 让机器能像人那样认知、思考和学习, 即用计 算机模拟人的智能。 人工智能的诞生人工智能的诞生 达特茅斯会议合影 (1956年) 报告列举了Artificial Intelligence值得关注的七个问题 Automatic Computers How Can a Computer be Programmed to Use a Language Neuron Nets set of (hypothetical) neuron

11、s be arranged so as to form concepts Theory of the Size of a Calculation Self-improvement：自我学习与提高 Abstractions：归纳与演绎 Randomness and Creativity 从典型任务从典型任务/应用对人工智能分类（上世纪应用对人工智能分类（上世纪70年代以来）年代以来） 机器定理证明（逻辑和推理），仿解题者 机器翻译（自然语言理解），仿译者 专家系统（问题求解和知识表达），仿专家如医生 博弈（树搜索），仿弈者 模式识别（多媒体认知），仿认知者 学习（神经网络），仿初学者 机器人和智

12、能控制（感知和控制），仿生物者 形成了符号学派、连接学派、行为学派 从智能角度对人工智能的分类从智能角度对人工智能的分类 领域人工智能领域人工智能 依葫芦画瓢、任务导向， 如Deep Blue和AlphaGo 通用通用人工智能或跨人工智能或跨领领 域域人工智能人工智能 举一反三、从经验中学习， 如“人类”智能 Traditional AI Artificial General Intelligence Focus on having knowledge and skills Focus on acquiring knowledge and skills Action acquiring via

13、 programing Ability acquiring via learning domain-specific ability via rule-based and exemplar- based general ability via abstraction (intuition) and context (common sense) Learning by data and rules Learning to learn 混合增强混合增强人工智能人工智能 ：多种智能体的混合形式 外骨骼机器人 人类智能+机器智能：如达芬奇外科手术机器人 人、机、物、网互联：如智慧城市系统 从智能角度对

14、人工智能的分类从智能角度对人工智能的分类 Da Vinci手术机器人及其缝制葡萄皮 电子设备将大脑与腿部神经元“重 新连接” 荀子劝学: 登高而招，臂非 加长也，而见者远；顺风而呼， 声非加疾也，而闻者彰。假舆马 者，非利足也，而致千里；假舟 楫者，非能水也，而绝江河 人工智能螺旋式发展之路：三次低谷人工智能螺旋式发展之路：三次低谷 第一次低谷：1973年英国发表James Lighthill 报告 该报告主要评判AI基础研究中A自动机、B机器人和C中央神经系统。 报告得出结论：A和C的研究有价值，但进展令人失望。B的研究没 有价值，进展非常令人失望。建议取消B的研究。 批评后，AI开始了严冬

15、（AI Winter） (Sir James Lighthill, Artificial Intelligence: A General Survey, Science Research Council,1973) 教训：AI尚属婴儿期，难以测算准确 人工智能螺旋式发展之路：三次低谷人工智能螺旋式发展之路：三次低谷 第二次低谷：日本智能（第五代）计算机研制失败 1982年开始，日本通产省主持第五代计算机。 动机：计算机从计算与存储数据向能直接推理与知识处理的新型结构过 渡。 目标：构成一个具有1000个处理单元的并行推理机，推理速度比常规高 1000倍。连接10亿信息组的数据库和知识库，具备听

16、说能力。 1992年因失败而告终（开支US $850 million） 教训：教训：驱动AI的发展要靠软件、数据和知识，而非硬件 人工智能螺旋式发展之路：三次低谷人工智能螺旋式发展之路：三次低谷 第三次低谷：知识词典日趋势微、网络百科兴起 斯坦福1984年通过专家来建设知识百科全书Cyc。截止2015年11月（其建 设也时断时续），包括23万多个概念、实体和200多万个三元组，如： place: 19,000 organization: 26,000 business related thing: 28,000 Cyc在90年代后期衰败，因搜索引擎崛起，显示互联网威力。 Cyc也开始链接外部知

17、识库：Dbpedia, UMBEL, CIA World Factbook等等。 教训：知识不能靠专家表达，要自动学习 人工智能发展中的主流方法人工智能发展中的主流方法(1): 符号主义人工智能符号主义人工智能(Symbolic AI)为核心的逻辑推理为核心的逻辑推理 知识图谱 用规则教用规则教 符 号 逻 辑 表 示 下 的 推 理 IBM Watson 1997年IBM“深蓝”和2011年IBM“沃森”是以推理为核心的人 工智能的代表。 人工智能发展中的主流方法人工智能发展中的主流方法(1): 符号主义人工智能符号主义人工智能(Symbolic AI)为核心的逻辑推理为核心的逻辑推理 人工

18、智能发展中的主流方法人工智能发展中的主流方法(1): 符号主义人工智能符号主义人工智能(Symbolic AI)为核心的逻辑推理为核心的逻辑推理 IBM“沃森”的推理 主 持 人 问 ：主 持 人 问 ： Kathleen Kenyons excavation of this city mentioned in Joshua showed the walls had been repaired 17 times. （Kathleen Kenyon对 这个在圣经约书亚记中提到 的城市的发掘表明，该城的城墙曾被修 复17次） 沃沃森回答：森回答：What is Jericho （耶利哥城 是什么？

19、） 答案排序：耶利哥耶利哥（Jericho）97%、耶路撒冷 （Jerusalem）42%、拉吉（Lachish）7% Kathleen Kenyon Kathleen Kenyon Joshua 人工智能发展中的主流方法人工智能发展中的主流方法(2): 数据驱动数据驱动 (data-driven)为核心的机器学习为核心的机器学习 用大数据学用大数据学 （有监督）（有监督） 挖 掘 数 据 所 蕴 含 的 内 在 模 式 机器挖掘得到的视觉模式 人工智能发展中的主流方法人工智能发展中的主流方法(2): 数据驱动数据驱动 (data-driven)为核心的机器学习为核心的机器学习 Source:

20、 The New York Times 特斯拉第一次车毁人亡(2016.5.7) 多少台机器机可识别一只猫(2012.6) 谷歌公司的图像标注系统 (2016.6) 人工智能发展中的主流方法人工智能发展中的主流方法(3): 在“探索（未知空间）与利用（已有经验）（exploration vs. exploitation)” 之间取得平衡为核心的强化学习 用问题引导用问题引导 （反馈牵引）（反馈牵引） 从 经 验 中 的 策 略 学 习 Reinforcement Renaissance, Communications of the ACM, 2016,59(8):12-14 人工智能发展中的主

21、流方法人工智能发展中的主流方法(3): 在“探索（未知空间）与利用（已有经验）（exploration vs. exploitation)” 之间取得平衡为核心的强化学习 人工智能三种主流方法区别人工智能三种主流方法区别 学习模式学习模式 优势优势 不足不足 用规则教 与人类逻辑推理相似，解 释性强 难以构建完备的知识规则 库 用数据学 直接从数据中学 以深度学习为例：依赖于 数据、解释性不强 用问题引导 从经验中进行能力的持续 学习 非穷举式搜索而需更好策 略 从数据到知识与能力从数据到知识与能力，能力增强是最终目标，能力增强是最终目标 三种学习方法三种学习方法的综合利用值得关注！的综合利用

22、值得关注！ 人机博弈人机博弈: AlphaGo 监督学习(深度学习)： 16万人类选手棋局（约3000 万 棋 谱 ） 。 围 棋 方 格 ： 19*19=361 强化学习： 机器对弈产生数 以万计棋局 第一代 AlphaGo 人机博弈人机博弈: AlphaGo 第二代AlphaGo：AlphaGo Master 机器相互博弈 AlphaGo vs AlphaGo: self-play games 人机博弈人机博弈: AlphaGo 第三代 ALphaGo Zero: starting tabula rasa (一张白纸绘蓝图) based solely on reinforcement le

23、arning, without human data, guidance or domain knowledge beyond game rules ( learns 4,000 years of human knowledge in 40 days, “尧造围棋，丹朱善之”) 经过40天训练后，Zero总计运行约2900万次自我对弈，得以击败AlphaGo Master，比分为89比11 美国佐治亚理工大学的人工智能助教：Jill Watson于2016年春季上岗，三个月 下来，未被学生发现，被推荐为优秀助教 人工智能：大学课程助教 人工智能：聊天、作诗、绘画 小冰聊天 谷歌人工智能 绘画

24、人生还有诗和远方 人工智能：电子商务智能助理 买、买、买 城市水晶球 问、问、问 人工智能：与人类生活息息相关 深度学习预测地震余震 Nature|doi:10.1038/s41586-018-0438-y 人工智能：智能驾驶时代逐渐开启 国际自动化工程师协会自动驾驶分级 （从左到右，驾驶员对车辆的控制程度 越来越少） 美国七个州对自动驾驶的支持力度 美国交通部正式发布自动驾驶政策 3.0(201.8.10.4) 吾生也有涯、而知也无涯 2016验证引力波、2017年获得诺贝尔物理奖：一个13亿 年前的声音 经过漫长星际旅行终于抵达地球，被我们 “听到”了 人类智能与机器智能区别 人类大脑人类

25、大脑 机器智能机器智能 self-learning learning by examples adaptation routine common sense No intuition logic 见一叶落，而知岁之将暮；审堂 下之阴，而知日月之行，阴阳之 变；见瓶水之冰，而知天下之寒， 鱼鳖之藏也 淮南子说山训 大大数据、小任务数据、小任务；小数据、大任务；小数据、大任务 莫拉维克悖论(Moravecs paradox): 困难的问题是易解的，容易的问题是难解的 无知而无畏：人类对智能的永无穷尽探索 We know what we know We know what we dont know

26、We dont know what we know We dont know what we dont know We are here What I cannot create, I do not understand. (不可造者, 未能知也.) 提纲提纲 1、 可计算思想起源与发展可计算思想起源与发展 2、人工智能历史发展、人工智能历史发展 3、人工智能研究基本内容、人工智能研究基本内容 人工智能基本研究内容 Math and Statistics Core (6 Courses) Math Foundations of Computer Science, Differential an

27、d Integral Calculus ,Integration and Approximation, Matrices and Linear Transformations, Probability Theory for Computer Scientists, Modern Regression (微分与积分、逼近理论、矩阵与线性变换、概率论、回归分析) Computer Science Core (6 courses) Computer Science Core: Freshman Immigration Course; Principles of Imperative Computat

28、ion; Principles of Functional Programming; Parallel and Sequential Data Structures and Algorithms; Introduction to Computer Systems; Great Theoretical Ideas in Computer Science (命令式编程、函数式编程、计算机系统、数据结构与算法、计算机思想) Artificial Intelligence Core (4 Courses) Concepts in Artificial Intelligence; Introductio

29、n to AI Representation and Problem Solving; Introduction to Machine Learning; Take one of the following courses: Introduction to Natural Language Processing or Introduction to Computer Vision (人工智能基础、表达与问题求解、机器学习、自然语言处理与计算机视觉 中选取1门) 卡耐基梅隆大学2018年9月成为全美第一个人工智能招生 的本科专业 人工智能特点：至小有内、至大无外，多学科交叉内禀 MIT于10月1

30、6日宣布，投资十亿美元建设新的计算学院，致力于将计算机技术以及人工智能纳 入所有研究领域，同时寻求改变计算和人工智能相关的公共政策和道德研究教育。 2019年秋季学期正式启动新学院 将计算机和人工智能力量带到 MIT所有学习领域 创造 50 个跨越新学院和其它学系的新教师职位 为 MIT五个学院建设公共合作结构，用于计算机和人工智能 领域的教育、研究和创新 改变关于计算机和人工智能公共政策和道德方面教育和研究 make AI part of every graduates education 人工智能推动学科交叉、重塑人才培养模式 人工智能培养中的知识体系要专业化与成体系 卡耐基梅隆大学人工智

31、能本 科专业课程体系 斯坦福大学计算机科学本科 课程体系：核心+跑道 Math (26 Units) Mathematical Foundations of Computing, Probability, Calculus Science (11 units): PHYSICS 41(Mechanics), PHYSICS 43(Electricity and Magnetism) Technology in Society one course Engineering Fundamentals (13 units) Programming Abstractions, Electronics

32、Computer Science Core (15 units) Computer Organization and Systems, Principles of Computer Systems, Data Structures and Algorithms Computer Science Depth(30 units) (设置了十条跑道设置了十条跑道) Artificial Intelligence Track(29 units), Biocomputation (30 units), Computer Engineering Track(36 units),Graphics track

33、(29 units), Human- Computer Interaction Track(29 units),information track(31 units),system tracks (28 units), theory track(27 units),Unspecialized Track(28 units), Individually Designed Track AI 本科知识体系 CS 本科知识体系 厘清内涵、促进交叉、赋能应用 人工智能培养中的知识体系要专业化与成体系 人工智能基本研究内容 人工智能：以机器为载体实现的人类智能或生物智能 从模拟人类智能角度而言，人工智能应

34、具备如下能力： 具备视觉感知和语言交流的能力。具备视觉感知和语言交流的能力。即能够识别和理解 外界信息（计算机视觉研究范畴）、能够与人通过语 言交流（自然语言理解研究范畴）。 具备推理与问题求解能力。具备推理与问题求解能力。即基于已有知识，对所见 事物和现象进行演绎推理以解决问题。 具备协同控制能力。具备协同控制能力。即将视觉（看）、语言（说）、 推理（悟）等能力统一协调，加以控制，这是常见的 机器人研究领域内容。 人工智能基本研究内容 人工智能：以机器为载体实现的人类智能或生物智能 从模拟人类智能角度而言，人工智能应具备如下能力： 具备遵守伦理道德能力。具备遵守伦理道德能力。即模拟人类智能的

35、智能体 在社会环境中要遵从一定的伦理道德。阿西莫夫在 科幻小说中按照优先级定义了机器人需要遵从的三 条伦理原则：不得伤人，或弃人于危难；需服从人； 在不违反上述两条原则情况下，保护机器人自己。 具备从数据中进行归纳总结的能力。具备从数据中进行归纳总结的能力。即需要从数据 中进行知识、规律和模式学习的模型和方法，这是 机器学习研究范畴。 授课基本内容 1.1 可计算思想起源与发展 1.2 人工智能的发展简史 1.3人工智能研究的基本内容 二十世纪初涌现的可计算思想的提出推动了原始递归函数、 演算和图灵机等“计算载体”的出现，由于图灵机以机 械方式进行“计算”，因此成为了现代计算机理论模型，宣 示

36、着自动计算时代的到来，也成为人工智能的“机器载体”。 授课基本内容 2.1 启发式搜索 2.2 对抗搜索（Minimax及Alpha-Beta剪枝搜索） 2.3 蒙特卡洛树搜索 你见，或者不见我 我就在那里 不悲 不喜 -扎西拉姆多多 搜索算法通过模拟智能体的一系列动作，按 照一定规则探索智能体的所有可能行动，直 到找到一种满足约束限制的解法，以此来指 导智能体的行动。 授课基本内容 这里的“擢”即抽引，表示从一个典型个别事例 中抽引出一个一般命题（虑），这种归纳推理的 方式不用怀疑，因为其理由或根据是“与典型事 例同类的事物联系是存在，还是不存在” 3.1 命题逻辑 3.2 谓词逻辑 3.3

37、 知识图谱推理 3.4 因果推理 擢虑不疑，说在有无 墨辨经下 授课基本内容 若无必要，勿增实体（entities should not be multi-plied beyond necessity） 奥坎姆剃刀（occams razor）原理 4.1 机器学习基本概念 4.2 线性回归与分类 4.3 Ada Boosting 4.4 线性区别分析 从标注数据到概念空间的映射 授课基本内容 物以类聚，人以群分 战国策 齐策三 学习无标注数据的分布 5.1 K-means 5.2 主成分分析 5.3 特征人脸方法 5.4 期望极大算法（EM） 授课基本内容 端到端学习数据的区别性表达 6.1

38、前馈神经网络（误差后向传播） 6.2 卷积神经网络 6.3 自然语言理解与视觉分析 授课基本内容 7.1 马尔科夫决策过程 7.2 强化学习中策略优化与策略评估 7.3 Q-Learning 7.4 深度强化学习 通过平衡“探索未知空间与利用已有经验”（exploration vs. exploitation）” 与环境进行交互，获得 回报，从而序贯地作出决策 通过动作施加影响 反馈环境状态的变化 智能主体智能主体 环境环境 动作的收益 (reward) 授课基本内容 8.1 博弈相关概念 (纳什均衡) 8.2 遗憾最小化算法 8.3 虚拟遗憾最小化算法 两害相权取其轻，两利相权取其重 博弈行为是多个带有相互竞争性质的主体，为了达 到各自目标和利益，采取的带有对抗性质的行为。 现代博弈论主要研究博弈行为中最优的对抗策略及 其稳定局势，协助对弈者在一定规则范围内寻求最 合理的行为方式。