高级人工智能.ppt

《高级人工智能.ppt》由会员分享，可在线阅读，更多相关《高级人工智能.ppt（72页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、高级人工智能高级人工智能Advanced Artificial IntelligenceAdvanced Artificial Intelligence复习重点复习重点 史忠植史忠植 http:/2022/12/211史忠植 高级人工智能第一章 绪论2022/12/212史忠植 高级人工智能人工智能的人工智能的五个基本问题五个基本问题 (1)(1)知识与概念化是否是人工智能的核心？知识与概念化是否是人工智能的核心？(2)(2)认知能力能否与载体分开来研究？认知能力能否与载体分开来研究？(3)(3)认知的轨迹是否可用类自然语言来描述？认知的轨迹是否可用类自然语言来描述？(4)(4)学习能力能否与

2、认知分开来研究？学习能力能否与认知分开来研究？(5)(5)所有的认知是否有一种统一的结构？所有的认知是否有一种统一的结构？2022/12/213史忠植 高级人工智能智能智能符号智能是以知识为基础，通过推理进行问题求解。也即所谓的传统人工智能。计算智能是以数据为基础，通过训练建立联系，进行问题求解。人工神经网络、遗传算法、模糊系统、进化程序设计、人工生命等都可以包括在计算智能。2022/12/214史忠植 高级人工智能机器学习机器学习反馈环境学习单元知识库执行单元2022/12/215史忠植 高级人工智能第二章 人工智能逻辑2022/12/216史忠植 高级人工智能默认规则一个默认规则是如下形式

3、的规则：(x):称为前提条件i(x):称为缺省条件，或检验条件(x):称为结论为简便，通常情况下可以省略检验条件中的M。规则的使用：规则的使用：如果规则的前提条件满足，且现有的知识导不出检验条件的否定i(x)，则可以得出结论成立。2022/12/217史忠植 高级人工智能 非单调逻辑推理系统的定理集合并不随着推理过程的进行而单调地增大，新推出地定理很可能会否定、改变原来地一些定理，使得原来能够解释地某些现象变得不能解释了。新规则：(4)P(不动点)2022/12/218史忠植 高级人工智能第三章 约束推理2022/12/219史忠植 高级人工智能3.3 约束传播CONSTRAINT PROPA

4、GATIONCONSTRAINT PROPAGATION弧一致性弧一致性Arc consistency 2022/12/2110史忠植 高级人工智能弧一致性弧一致性 Arc consistency 如果对vi 的当前域中的所有值x，存在vj的当前域中的某值y使得 vi=x和vj=y是vi与vj之间的约束所允许的，则弧(vi,vj)是弧一致的。弧一致性的概念是有向的。即(vi,vj)是弧一致的并不自动地意味着(vj,vi)是一致的。2022/12/2111史忠植 高级人工智能约束传播修改算法约束传播修改算法REVISE(Vi,Vj)1 DELETE false;2 for each x Di d

5、o 3 if there is no such yj Dj4such that(x,yj)is consistent,5 then 6 delete x from Di;7 DELETE true;8 endif 9 endfor 10 return DELETE;11 end REVISE2022/12/2112史忠植 高级人工智能AC-11 Q ;2 repeat 3 CHANGE false;4 for each(Vi,Vj)Q do5 CHANGE REVISE(Vi,Vj)CHANGE;6 endfor;7 until not(CHANGE);8 end AC-12022/12/21

6、13史忠植 高级人工智能第四章 贝叶斯网络2022/12/2114史忠植 高级人工智能条件概率 条件概率:我们把事件B已经出现的条件下，事件A发生的概率记做为P(A|B)。并称之为在B出现的条件下A出现的条件概率，而称P(A)为无条件概率。若事件A与B中的任一个出现，并不影响另一事件出现的概率，即当P(A)P(AB)或P(B)P(BA)时，则称A与B是相互独立的事件。2022/12/2115史忠植 高级人工智能贝叶斯规则n基于条件概率的定义np(Ai|E)是在给定证据下的后验概率np(Ai)是先验概率nP(E|Ai)是在给定Ai下的证据似然np(E)是证据的预定义后验概率=iiiiiiii)p

7、(AA|p(E)p(AA|p(Ep(E)p(AA|p(EE)|p(A=p(B)A)p(A)|p(Bp(B)B)p(A,B)|p(AA1A2A3A4A5A6E2022/12/2116史忠植 高级人工智能第五章 基于范例推理2022/12/2117史忠植 高级人工智能 基于范例学习的一般过程基于范例学习的一般过程2022/12/2118史忠植 高级人工智能 基于范例学习的一般过程基于范例学习的一般过程2022/12/2119史忠植 高级人工智能相似性计算相似性计算1.绝对值距离(Manhattan):其中 Vik 和 Vjk 分别表示范例i和范例j的第k个属性值。2022/12/2120史忠植 高

8、级人工智能相似性计算相似性计算2.欧氏距离(Euclidean)2022/12/2121史忠植 高级人工智能相似性计算相似性计算3.麦考斯基距离2022/12/2122史忠植 高级人工智能第六章 归纳学习2022/12/2123史忠植 高级人工智能变型空间变型空间没有描述训练例子GS更特殊更一般变型空间方法的初始 G集是最上面的一个点（最一般的概念），初始 S集是最下面的直线上的点（训练正例），初始 H集是整个规则空间。在搜索过程中，G 集逐步下移（进行特化），S 集逐步上移（进行泛化），H 逐步缩小。最后 H收敛为只含一个要求的概念。2022/12/2124史忠植 高级人工智能ID3 ID3

9、 算法算法 (1)选择给定训练实例的随机子集（称为窗口）。(2)重复 (a)形成一条规则解释当前窗口。(b)从其余实例中寻找该规则的例外。(c)由当前窗口和规则例外生成新的窗口。直到该规则没有例外为止。2022/12/2125史忠植 高级人工智能C4.5 ExtensionsC4.5 is an extensions of ID3 accounts fornDepth-first strategy is usednUnavailable valuesnEx:only given Outlook to be SunnynContinuous attribute value rangesnEx:h

10、umidity is greater than 75nPruning of decision treesnRule derivation2022/12/2126史忠植 高级人工智能第七章第七章 类比学习类比学习2022/12/2127史忠植 高级人工智能7.4 转换类比2022/12/2128史忠植 高级人工智能nT-空间的差别测度空间的差别测度Dr（差异函数）差异函数）Dr的值是四维向量：新旧问题初态的差别新旧问题终态的差别新旧问题路径限制的差别新旧问题方法可应用度的差别。2022/12/2129史忠植 高级人工智能7.4.4 转换类比学习系统输 入比较器知识库操作表解法库操作模块解法栈检验

11、模块输 出转换类比学习系统框图2022/12/2130史忠植 高级人工智能第八章第八章 解释学习解释学习2022/12/2131史忠植 高级人工智能8.2 解释学习模型概念描述空间概念空间例子空间D1不可操作的可操作D2C1I1I2I3解释学习的空间描述2022/12/2132史忠植 高级人工智能8.3 解释泛化学习方法解释泛化学习问题：已知：目标概念训练例领域理论可操作性标准欲求：训练实例的泛化，使之满足以下条件1)是目标概念的充分概念描述2)满足可操作性标准2022/12/2133史忠植 高级人工智能EBL方法1.解释利用领域理论知识解释为什么训练例满足目标概念的定义2.泛化确定解释成立的

12、最通用的条件2022/12/2134史忠植 高级人工智能第九章第九章 知识发现和数据挖掘知识发现和数据挖掘2022/12/2135史忠植 高级人工智能 数据库知识发现 目前,关系型数据库技术成熟、应用广泛。因此,数据库知识发现(Knowledge Discovery in Databases KDD)的研究非常活跃。该术语于1989年出现，Fayyad定义为“KDD是从数据集中识别出有效的、新颖的、潜在有用的，以及最终可理解的模式的非平凡过程”2022/12/2136史忠植 高级人工智能2022/12/2137史忠植 高级人工智能知识发现的任务(1)数据总结：对数据进行总结与概括。传统的最简单

13、的数据总结方法是计算出数据库的各个字段上的求和值、平均值、方差值等统计值,或者用直方图、饼状图等图形方式表示。分类：根据分类模型对数据集合分类。分类属于有导师学习，一般需要有一个训练样本数据集作为输入。聚类：根据数据的不同特征，将其划分为不同的类。无导师学习2022/12/2138史忠植 高级人工智能知识发现的任务(2)相关性分析：发现特征之间或数据之间的相互依赖关系关联规则 偏差分析：基本思想是寻找观察结果与参照量之间的有意义的差别。通过发现异常,可以引起人们对特殊情况的加倍注意。建模：构造描述一种活动或状态的数学模型 2022/12/2139史忠植 高级人工智能关联规则的相关概念(2)支持

14、度 物品集A的支持度：称物品集A具有大小为s的支持度,如果D中有s%的事务支持物品集X P(A)1000个顾客购物，其中200个顾客购买了面包，支持度就是20（200/1000）。关联规则AB的支持度：关联规则AB在事务数据库W中具有大小为s的支持度,如果物品集AB的支持度为s 100个顾客购买了面包和黄油，则面包黄油 102022/12/2140史忠植 高级人工智能关联规则的相关概念(3)可信度 设W中支持物品集A的事务中，有c的事务同时也支持物品集B，c称为关联规则AB的可信度。P(B|A)1000个顾客购物，200个顾客购买了面包，其中140个买了黄油，则可信度是70（140/200）。

15、2022/12/2141史忠植 高级人工智能关联规则的相关概念(4)最小支持度minsup 用户规定的关联规则必须满足的最小支持度。最小可信度minconf 用户规定的关联规则必须满足的最小可信度。大项集(大项集、大物品集largeitemset)支持度不小于最小支持度minsup的物品集2022/12/2142史忠植 高级人工智能经典的Apriori算法(1)L1=large 1-itemsets;(2)for(k=2;Lk-1不为空;k+)do begin(3)Ck=apriori-gen(Lk-1);/新候选物品集(4)For all transactions tD do begin(5

16、)C=subset(Ck,t);/t中的候选物品集(6)For all candidates cC do(7)c.count+;(8)end;(9)Lk=cCk|c.count=minsup;(10)end;(11)Answer=L1L22022/12/2143史忠植 高级人工智能Prune算法：从Ck中除去大小为k-1且不在Lk-1中的子集(1)For all itemsets cCk do(2)For all(k-1)-subsets s of c do(3)if(sLk-1)(4)then delete c from Ck2022/12/2144史忠植 高级人工智能apriori-gen

17、(Lk-1)分成两步：join算法：从两个Lk-1物品集生成候选物品集Ckinsert into Ckselect p.item1,p.item2,.,p.item(k-1),q.item(k-1)from Lk-1 p,Lk-1 qwhere p.item1=q.item1,.,p.item(k-2)=q.item(k-2),p.item(k-1)q.item(k-1)2022/12/2145史忠植 高级人工智能上近似、下近似和边界区域定义定义5:X的下近似：R*(X)=x:(xU)(xRX)X的上近似：R*(X)=x:(xU)(xRX)X的边界区域：BNR(X)=R*(X)R*(X)若BN

18、R(X)，则集合X就是一个粗糙概念。下近似包含了所有使用知识R可确切分类到X的元素，上近似则包含了所有那些可能是属于X的元素。概念的边界区域由不能肯定分类到这个概念或其补集中的所有元素组成。POSR(X)=R*(X)称为集合X的R-正区域正区域，NEGR(X)=UR*(X)称为集合X的R-反区域反区域。2022/12/2146史忠植 高级人工智能第十章第十章 分布式人工智能分布式人工智能2022/12/2147史忠植 高级人工智能主体的定义在计算机和人工智能领域中，主体可以看作是一个实体，它通过传感器感知环境，通过效应器作用于环境。2022/12/2148史忠植 高级人工智能主体基本结构主体基

19、本结构环境主体感知作用黑箱软件主体2022/12/2149史忠植 高级人工智能 BDIBDI主体模型主体模型BDI主体模型可以通过下列要素描述：一组关于世界的信念；主体当前打算达到的一组目标；一个规划库，描述怎样达到目标和怎样改变信念；一个意图结构，描述主体当前怎样达到它的目标和改变信念。2022/12/2150史忠植 高级人工智能BDIBDI解释器解释器BDI-Interpreterinitialize-state();dooptions:=option-generator(event-queue,B,G,I);selected-options:=deliberate(options,B,G

20、,I);update-intentions(selected-options,I);execute(I);get-new-external-events();drop-successful-attitudes(B,G,I);drop-impossible-attitudes(B,G,I);until quit2022/12/2151史忠植 高级人工智能 反应主体反应主体环境当前世界传感器动 作效应器条件-动作规则主体2022/12/2152史忠植 高级人工智能反应主体程序反应主体程序function Reactive-Agent(percept)returns action static:ru

21、les,/*一组条件-动作规则*/state Interpret-Input(percept)rule Rule-Match(state,rules)action Rule-Actionrule return action2022/12/2153史忠植 高级人工智能认知主体认知主体环境信息融合传感器动 作效应器主体规 划知识库目标内部状态2022/12/2154史忠植 高级人工智能认知主体程序认知主体程序function Cognitive-Agent(percept)returns actionstatic:environment,/*描述当前世界环境*/kb,/*知识库*/environm

22、ent Update-World-Model(environment,percept)state Update-Mental-State(environment,state)action Decision-Making(state,kb)environment Update-World-Model(environment,action)return action2022/12/2155史忠植 高级人工智能第十一章第十一章 进化计算进化计算2022/12/2156史忠植 高级人工智能11.3 达尔文进化算法1)建立原始种体。2)通过突变建立子孙。3)选择：4)返回到步骤(1)。2022/12/2

23、157史忠植 高级人工智能基本遗传算法基本遗传算法(Simple Genetic Algorithm:SGA)又称为简单遗传算法，只使用选择算子、交叉算子和变异算子这三种基本的遗传算子。其遗传操作简单、容易理解，是其它遗传算法的雏形和基础。基本遗传算法的构成要素：1、染色体编码方法：首先必须对问题的解空间进行编码，使之能用遗传算法进行操作。较常用的是二进制编码方法，现在使用非二进制编码的也逐渐增多。2、适应度函数（fitness function，又称为适应值适值函数）用来评价一个染色体的好坏。2022/12/2158史忠植 高级人工智能基本遗传算法的构成要素3、遗传算子 选择算子(selec

24、tion)：又称为复制算子。按照某种策略从父代中挑选个体进入下一代，如使用比例选择、轮盘式选择。交叉算子(crossover)：又称为杂交算子。将从群体中选择的两个个体，按照某种策略使两个个体相互交换部分染色体，从而形成两个新的个体。如使用单点一致交叉。变异算子(mutation)：按照一定的概率（一般较小），改变染色体中某些基因的值。2022/12/2159史忠植 高级人工智能杂交操作举例10220201No OffspringPt.of interchangeCrossoverParentsOffspring1110#0#1#0111#0001#11#010#1000#00#110#01#

25、10#100100100#011161711110#11#0001#0#0001#11#00#11#00#110#01#10#000#01111#01#10#2022/12/2160史忠植 高级人工智能变异操作简单的变异操作过程如下:每个位置的字符变量都有一个变异概率,各位置互相独立。通过随机过程选择发生变异的位置：产生一个新结构 ,其中 是从对应位置 的字符变量的值域中随机选择的一个取值。可以同样得到。2022/12/2161史忠植 高级人工智能反转操作简单反转操作的步骤如下:1)从当前群体中随机选择一个结构2)从中随机选择两个数i和j,并定义3)i=mini,j,j=maxi,j;3)颠倒

26、a中位置i、j之间的部分,产生新的结构2022/12/2162史忠植 高级人工智能第十二章第十二章 人工生命人工生命2022/12/2163史忠植 高级人工智能人工生命 人工生命是指用计算机和精密机械等生成或构造表现自然生命系统行为特点的仿真系统或模型系统。自然生命系统的行为特点表现为自组织、自修复、自复制的基本性质，以及形成这些性质的混沌动力学、环境适应和进化。在现实世界中，普遍地存在着各类复杂系统，一般认为，非线性、不稳定性、不确定性是造成复杂性的根源。复杂事物只能照它复杂的面貌来理解。2022/12/2164史忠植 高级人工智能 记V为细胞状态集，V中有一元素v0为静止状态，定义f是 V

27、*V*VV的函数,且满足 f(v0,v0,v0)=v0，则(V,v0,f)称为是m个邻居的细胞自动机，f 称为该细胞自动机的变换函数。二维空间中的细胞自动机2022/12/2165史忠植 高级人工智能信号传播的过程2 2 2 2 2 21 1 0 s 1 12 2 2 2 2 22 2 2 2 2 21 1 1 0 s 12 2 2 2 2 22022/12/2166史忠植 高级人工智能f(0,1,2,7,6)=1 f(7,0,0,0,2)=3 f(2,0,0,2,3)=7 f(1,0,2,3,2)=6f(0,1,2,3,2)=1 f(3,0,2,2,1)=0 f(7,0,2,1,2)=0 f

28、(1,0,7,2,2)=3f(4,0,2,0,2)=2 f(2,0,0,2,4)=0 f(2,0,2,6,2)=4 f(2,0,0,1,4)=2f(4,0,2,6,2)=2 f(2,0,4,6,2)=4 f(1,2,4,2,6)=4 f(4,1,2,2,2)=0f(2,0,0,4,2)=0 f(2,0,2,4,2)=0 f(2,0,1,2,4)=2 f(6,0,2,4,2)=4f(7,0,0,2,1)=0 f(0,1,2,7,2)=4 变换规则表2022/12/2167史忠植 高级人工智能形态形成理论形态形成理论规规则则采采用用上上下下文文无无关关，即即在在特特定定部部分分改改变变时时不考虑上

29、下文中的关系。例如一组规则：不考虑上下文中的关系。例如一组规则：(1)A (1)A CB CB (2)B (2)B A A (3)C (3)C DA DA (4)D (4)D C C2022/12/2168史忠植 高级人工智能教材教材 史忠植：高史忠植：高级级人工智能人工智能 科学出版社科学出版社 1998 19982022/12/2169史忠植 高级人工智能参考书参考书 史忠植：史忠植：智能主体及其应用智能主体及其应用 科学出版社科学出版社 2000 2000 史忠植：史忠植：知识发现知识发现 清华大学出版社清华大学出版社 2002 20022022/12/2170史忠植 高级人工智能考查方式考查方式课程设计课程设计 30%30%闭卷考试闭卷考试 70%70%2022/12/2171史忠植 高级人工智能谢 谢!2022/12/2172史忠植 高级人工智能